에이전시의 경제학: 신뢰는 기술이 아니라 구조다

초록 소비자 AI 에이전트(메타 Muse)의 대규모 상용화는 자동화된 행동에 대한 신뢰 구조의 경제적 중요성을 드러낸다. 법률 AI는 법률 지식 검색을 넘어 계약체결, 소송 진행, 의뢰인 자산 관리 같은 실행적 행동을 위임받는 단계로 진입하고 있다. 이 전환에서 기술 정확성보다는 책임 귀속, 감시 가능성, 배상 구조 같은 제도적 틀이 먼저 설계되어야 채택이 가능하다. Anthropic 저작권 분쟁 사례처럼 법률적 모호함이 남으면 에이전트 자동화는 시장 채택에 실패한다.

지난달 메타가 Muse를 발표했을 때, 기술 혁신이 아니라 신뢰 문제가 뜨겁게 논의되었다. 소비자들이 AI에게 이메일 전송, 결제, 일정 예약을 위임하려면, 시스템 오류나 악의적 행동에 대해 누가 책임을 지는지 명확해야 한다는 뜻이다. 같은 시기 OpenAI와 Anthropic 사이 수학 문제 해결 경쟁에서 저작권 문제가 재현되었고, Anthropic 저작권 합의에서 출판사들이 정산금을 두고 저자들과 싸우는 모습은 또 다른 신뢰 균열을 드러냈다. 법률 AI 시장도 정확히 같은 지점에 서 있다. 법률 문서 초안, 계약 검토, 소송 전략 수립 같은 실행적 업무를 AI 에이전트가 수행하려면, 오류나 분쟁 발생 시 누가 법적 책임을 지고 어떻게 보상받는지 투명한 구조가 선행되어야 한다. 기술 정확도는 필요조건이지만 충분조건이 아니다. 구조적 신뢰 없이는 로펌도 기업 법무팀도 에이전트 자동화를 현업에 전폭 투입할 수 없다. 이것이 AI 에이전시(Agency)의 경제학이다.

핵심 개념 정의

에이전시(Agency)

행동 주체가 다른 주체의 이익을 위해 의사결정 권한을 행사하는 관계. AI 에이전트의 맥락에서는 법률 인공지능이 법무 전문가나 의뢰인을 대리하여 법적 효과를 갖는 행동(계약 체결, 소송 진행, 증거 제출 등)을 실행할 때의 책임·권한·신뢰 구조를 의미한다.

구조적 신뢰(Structural Trust)

기술 성능이나 개인적 판단이 아니라 제도적 틀(책임 명확화, 감시 메커니즘, 배상 구조)에 의해 보증되는 신뢰. 법률 AI 에이전트가 자동으로 행동할 때, 오류 시 누가 책임지고 어떻게 피해를 복구하는지 법적·제도적으로 명확하면 사용자는 신뢰한다.

행동 위임의 임계(Action Delegation Threshold)

AI가 단순 조언·분석 역할에서 벗어나 실제 법적 효과를 갖는 행동(거래 체결, 소송 진행)을 자동으로 실행하기 시작하는 시점. 이 임계를 넘으면 기술 리스크가 법률·재무 리스크로 급증한다.

전략적 관점

1

신뢰는 모듈화된 책임 구조에서만 확장된다

메타 Muse가 결제 권한을 Stripe 및 Shop Pay와 연동할 때 '구매 보호(purchase protection)'를 전제로 삼은 것은 우연이 아니다. 소비자는 기술을 믿는 것이 아니라 배상 구조를 믿는다. AI가 오류로 부정확한 주문을 처리하면 Stripe가 책임진다는 명확한 책임 분기점이 신뢰를 창출한다. 법률 AI의 경우도 동일하다. Anthropic의 저작권 분쟁 합의에서 보았듯이, 누가 저작권 침해 책임을 지는지(회사인가, 고객인가, 모델 제공자인가), 분쟁 발생 시 어떻게 배상하는지가 불분명하면 법무팀의 채택은 극도로 제한된다. 예를 들어 로펌이 AI 에이전트에게 계약서 초안 작성과 자동 체결을 위임했을 때, 에이전트의 오류로 고객이 손해를 입으면 누구에게 청구하는가? (1) 에이전트를 개발한 AI 회사인가 (2) 그것을 도입한 로펌인가 (3) 모델 제공자인가? 이 책임 귀속이 법적·보험 제도상 명확하지 않으면, 로펌은 위험을 감수하지 않는다. 따라서 구조적 신뢰는 기술 개선 이전에 법적 프레임워크 정비가 선행되어야 함을 의미한다. 배상 한도, 과실 비율, 감사 기준 등을 산업 표준화하고, AI 에이전시 보험 상품을 설계하고, 법원이 AI 행동에 대한 판단 기준을 선례로 제시할 때만 대규모 채택이 가능하다.

2

감시 가능성이 위임 권한의 경계를 결정한다

Chrome이 AI 위협 증가에 대응해 보안 업데이트 주기를 4주에서 2주로 단축한 사례는 시사하는 바가 크다. 빠르게 변하는 AI 위협에 대응하려면, 시스템의 행동을 실시간으로 모니터링하고 문제 발생 시 즉시 개입할 수 있는 구조가 필수라는 뜻이다. 법률 AI 에이전트에도 같은 논리가 적용된다. 에이전트가 계약 초안을 작성했을 때, 그 과정이 완전히 블랙박스라면 로펌은 에이전트에게 중요한 의사결정을 맡길 수 없다. 반드시 에이전트의 추론 과정, 인용한 판례와 법규, 검토한 조건, 배제한 대안 등이 감시 가능해야 한다. 더 나아가, 감시 가능성의 정도가 위임할 수 있는 권한의 크기를 결정한다. 예를 들어 소송 전략 수립처럼 고도의 판단을 요하는 업무는, 에이전트의 모든 추론이 로펌 담당 변호사에게 노출되고, 변호사가 각 단계에서 승인·거부할 수 있을 때만 가능하다. 반면 판례 검색이나 문서 분류처럼 낮은 위험의 업무는 감시 수준을 낮추고 자동화 정도를 높일 수 있다. 이것이 '감시-권한 대응 구조'인데, 이를 표준화하지 못하면 법률 AI는 진정한 자동화가 아니라 변호사의 업무 보조 도구로 머무르게 된다.

3

책임의 비분기(Non-bifurcation)는 에이전트 채택의 제약이다

OpenAI와 Anthropic 사이 Navier-Stokes 문제 해결 경쟁에서 드러난 분쟁―누가 먼저 발견했는가, 누가 저작권을 가지는가―은 AI 에이전트 시대에 더욱 복잡해진다. 법률 업무에서 에이전트의 행동 결과는 단순한 기술 산출물이 아니라 법적 효과를 갖는 행위다. 예를 들어 AI 에이전트가 의뢰인을 대리해 계약에 서명했는데, 나중에 그 계약이 무효라고 판단되었다면 책임은? (1) 에이전트 설계의 오류인가 (2) 학습 데이터의 편향인가 (3) 로펌 담당 변호사의 감시 태만인가 (4) 의뢰인 스스로의 선택인가? 이 네 가지가 모두 섞여 있을 때, 기존의 '변호사 배상 책임보험(Errors & Omissions Insurance)'으로는 보장이 불가능하다. 보험사는 책임이 명확히 분기되지 않으면 어느 쪽도 보장하지 않으려 한다. 따라서 법률 AI 에이전트가 실제 행동 권한을 갖기 위해서는, 책임을 명확히 분기하는 표준화된 아키텍처가 먼저 설계되어야 한다. 예컨대 '에이전트는 감사 추적(audit trail)을 남긴다', '로펌 변호사는 15분 내 모든 중요 행동을 승인해야 한다', '배상 청구는 먼저 에이전트 공급사의 보험에서 처리한다' 같은 규칙이 법적으로 정립될 때만 대규모 도입이 가능하다. 이것이 없으면 AI는 진정한 '에이전트'가 아니라 여전히 '도구'일 뿐이다.

4

신뢰 설계의 경제학: 비용을 누가 지는가

Mistral이 €3B 펀딩을 받으면서 '유럽 주권형 AI'를 표방한 것은 기술 독립성만 아니라 신뢰 프레임워크의 독립성을 의도한 것이다. 고객이 AI 시스템을 믿으려면, 그 시스템이 누구에게 책임지는지 명확해야 하고, 그 책임이 실제로 이행될 수 있는 경제적 기초가 있어야 한다. 법률 AI의 신뢰 구조 구축에는 상당한 비용이 든다. (1) 책임 보험 상품 개발 (2) 감시·감사 인프라 (3) 법적 분쟁 발생 시 배상 준비금 (4) 정규 감사 및 인증 (5) 고객사 내 거버넌스 교육. 이 비용을 누가 지는가? 현재로서는 불명확하다. AI 공급사가 지면 가격이 올라가고, 고객사가 지면 도입 장벽이 높아진다. Anthropic의 저작권 합의에서 보았듯이, 저자와 출판사가 정산금을 두고 싸운 것처럼, 법률 AI도 '신뢰 비용의 배분'을 둘러싼 이해 갈등이 불가피하다. 로펌이 수수료를 올려 신뢰 비용을 의뢰인에게 전가하려 하면, 고객사(기업 법무팀)는 자체 AI를 개발하려 한다. 반대로 AI 공급사가 신뢰 비용을 흡수하면 이윤이 압박된다. 이 딜레마는 구조적이며, 해결되지 않은 채로는 법률 AI의 신뢰성 고도화가 지연된다. 따라서 산업 차원의 표준 설정, 규제 기관의 인증 체계, 보험 상품의 표준화 같은 공동 인프라 투자가 필수다.

5

행동 위임의 단계성: 무엇부터 자동화하는가

Google Cloud가 Accenture와 'Forward-Deployed Engineers' 조직을 만든 이유는, AI 모델이 좋아도 실제 조직 도입이 실패하는 경우가 많기 때문이다. 법률 AI도 동일하다. 에이전트 자동화를 한 번에 모든 업무에 적용할 수 없다. 반드시 단계별로 설계해야 한다. (1단계) 감시 가능성이 최고인 업무부터: 판례 검색, 조문 인용, 문서 분류 같이 결과가 객관적으로 검증 가능한 업무. 이 단계에서 에이전트 오류율이 명확해지고, 감사 추적이 자동으로 쌓인다. (2단계) 감시 메커니즘이 강한 업무: 계약 초안 작성, 의견서 작성. 로펌 변호사가 매번 최종 검토하고 서명하므로 에이전트의 오류가 의뢰인에게 전달되지 않는다. (3단계) 고도의 판단을 요하지만 가역적 업무: 소송 전략 초안, 위험 평가. 에이전트가 의견을 제시하면 변호사가 판단하고 의뢰인이 최종 결정한다. (4단계, 현재로서는 불가) 최종 의사결정 행위: 법정 대리, 합의 체결, 소송 진행 방향 단독 결정. 이 단계는 책임 구조가 획기적으로 재편되지 않는 한 자동화 불가능하다. 현재 법률 AI 시장은 1~2단계에 머물러 있는데, 진정한 자동화는 3단계를 넘어 4단계를 향해 나아갈 때다. 그런데 4단계로 진입하려면 신뢰의 구조적 기반이 먼저 정립되어야 한다. 이것이 '행동 위임의 단계성'이 의미하는 바다.

반론과 재반박

예상 반론 이 논리라면 법률 AI 에이전트는 현재의 법적·보험 틀이 정비될 때까지 본격적 자동화가 불가능하다는 결론인데, 이는 너무 보수적이다. 기술은 규제에 앞서 발전하는 것이 역사의 상례이고, 시장이 우회적 방법(예: 에이전트 출력을 '의견'이 아니라 '참고자료'로 표시)으로 현행 법을 우회하면서 사실상 도입될 수 있다. 신뢰 구조 완성을 기다릴 필요는 없다.

재반박 이 반론은 기술과 제도 발전 속도의 차이를 과소평가한다. 확실히 기술이 규제에 앞서 가는 경우는 많다. 그러나 법률 서비스는 다르다. 의뢰인이 AI 에이전트의 오류로 손해를 입으면 즉시 법적 분쟁이 발생하고, 현행법상 책임이 불명확하면 모든 당사자(로펌, AI 공급사, 의뢰인)가 소송의 당사자가 된다. 이미 Anthropic 저작권 분쟁, 출판사-저자 간 정산 분쟁에서 보았듯이, 법적 모호함은 시장을 마비시킨다. 우회적 표시('참고자료로만 사용')는 일시적 해결책이지만, 실제 의뢰인은 그 의견을 신뢰하고 행동한다. 결국 분쟁이 발생하면 법원은 형식적 면책 표시를 무시하고 실질적 책임을 묻는다. 따라서 구조적 신뢰 없이 사실상 자동화를 진행하면, 시장은 초기 채택 단계에서 고착되거나, 대규모 소송 사건으로 뒤흔린다. Google Cloud의 FDE 모델이 부상하는 이유도 정확히 이것이다. 기술만으로는 부족하고, 조직 도입·책임 설계까지 함께 가야만 지속 가능한 성장이 가능하다는 경험적 인식이다.

법마디 OS가 그리는 미래

법마디 OS가 실현할 미래는 다음과 같다. (단기, 1~2년) 판례 검색, 문서 분류, 조문 인용 등 '저위험 자동화' 영역에서 감사 추적과 감시 표준을 정립한다. 로펌과 기업 법무팀이 이 단계에서 에이전트의 오류 패턴을 학습하고, 신뢰 모델을 구축한다. (중기, 2~4년) 계약 초안, 의견서 작성 같은 '중위험 업무'에서 로펌 변호사의 감시 메커니즘을 법적으로 표준화한다. 이 과정에서 'AI 에이전시 보험' 상품이 개발되고, 배상 한도와 과실 비율이 업계 관례로 정착한다. (장기, 4~5년 이후) 고도의 판단 업무에서도 에이전트가 의견을 제시하고, 인간 변호사와 협력하는 '하이브리드 의사결정' 모델이 표준화된다. 법원도 AI 에이전트의 행동이 포함된 소송에서 적절한 판단 기준을 선례로 제시하기 시작한다. 궁극적으로는 법적 책임이 명확히 분기되고 보험으로 보증되는 '신뢰된 에이전시' 시스템이 정착하여, 로펌과 기업 모두 AI 에이전트를 자신감 있게 도입하는 단계에 이른다. 이것이 법마디 OS의 역할이다―단순히 더 똑똑한 기술을 제공하는 것이 아니라, 신뢰할 수 있는 자동화의 구조를 함께 설계하고, 시장이 그 구조 위에서 성장하도록 인프라를 마련하는 것.

전략적 함의

신뢰의 기술화가 아니라 구조화가 법률 AI의 확산 속도를 결정한다. 로펌과 기업 법무팀의 에이전트 도입 결정은 기술 정확도보다 책임 명확성에 더 민감하다.
행동 위임의 단계성을 무시하면 시장은 초기 채택 함정에 빠진다. 무리하게 고차 업무를 자동화하려 하면 대규모 법적 분쟁으로 신뢰가 붕괴하고, 산업 전체가 위축된다.
신뢰 구조 설계는 기술 개선이 아니라 산업 공동 인프라 투자 문제다. 표준화된 감사 기준, 보험 상품, 법적 책임 분기를 만드는 데 로펌, AI 공급사, 보험사, 규제 기관이 함께 참여하는 협업이 필수다.

"AI 에이전트는 기술이 아니라 신뢰의 문제다. 구조 없는 자동화는 기술 혁신이 아니라 시장 위기가 된다."

참고 자료

칼럼니스트

서연

최고전략책임자 (CSO · Chief Strategy Officer)

미국 연방대법원 로클럭 출신급 / 글로벌 Top3 전략 컨설팅 파트너급