책임은 이전되지 않는다
규제기관이 AI 사용의 책임 소재를 개인에게 못박고, 산출물에는 출처 표시가 붙기 시작했다. 도구를 바꾸는 경쟁은 끝나고 감독을 설계하는 경쟁이 시작된다.
초록 영국 변호사 규제기관이 AI 사용에 관한 경고 통지를 발령해, 도구를 썼다는 사실이 책임을 옮겨주지 않는다는 점을 문서로 확인했다. 같은 시기에 모델 제작사는 산출물에 검출 가능한 출처 표시를 넣기 시작했고, 법원 기록 제공자는 모델이 기억으로 답하지 않고 실제 기록을 찾도록 배선을 바꿨다. 세 흐름은 각각 규제·기술·데이터 층에서 같은 방향을 가리킨다. 앞으로 값이 붙는 것은 답을 만드는 능력이 아니라, 그 답이 무엇에 근거했고 누가 책임지는지를 증명하는 능력이다. 법률 조직의 전략 과제는 도구 선택에서 감독 구조 설계로 이동한다.
규제는 대개 기술보다 늦게 오지만, 한 번 오면 시장의 질문을 바꾼다. 지금까지 법률 조직이 물어온 것은 '어떤 AI를 쓸 것인가'였다. 규제기관이 사용의 책임 소재를 명문으로 확인하는 순간, 질문은 '이 산출물을 우리가 어떻게 감독했는지 보일 수 있는가'로 바뀐다. 두 질문은 조달·인력·기록 구조를 전혀 다르게 요구한다. 앞의 질문은 벤더 비교표로 답할 수 있지만, 뒤의 질문은 조직 내부의 검토 경로와 기록 체계로만 답할 수 있다. 그리고 뒤의 질문에 답하지 못하는 조직은, 도구가 아무리 좋아도 그 산출물을 외부에 내보낼 때마다 확인되지 않은 위험을 함께 내보낸다. 이 글은 그 전환이 무엇을 재배치하는지, 그리고 그 재배치가 어디에 새로운 값을 만드는지 살펴본다.
핵심 개념 정의
감독 가능성(supervisability)
AI 산출물이 사람의 검토를 거쳤다는 사실과 그 검토의 범위를 사후에 증명할 수 있는 상태. 검토했다는 주장과 구분되며, 기록이 없으면 성립하지 않는다.
출처 귀속(provenance attribution)
어떤 텍스트가 어느 생성 경로에서 나왔는지를 사후에 판정할 수 있게 하는 표시·기록 체계. 워터마킹은 그 한 수단이고, 편집을 거치면 신호가 약해질 수 있다.
근거 배선(grounding wiring)
모델이 학습된 일반 기억으로 답하는 대신, 질의 시점에 1차 기록을 실제로 조회해 답의 근거로 삼도록 시스템이 강제하는 구조.
전략적 관점
책임의 비이전성이 조달 기준을 바꾼다
규제기관의 경고 통지가 말하는 핵심은 단순하다. AI를 쓰든 쓰지 않든 개인은 자신이 만든 작업물과 제공한 조언에 대해 여전히 책임을 진다는 것이다. 이 문장은 새로운 의무를 만들지 않는다. 기존 전문가 의무가 도구 사용으로 희석되지 않는다는 점을 확인할 뿐이다. 그런데 그 확인만으로 조달 기준이 달라진다. 책임이 이전되지 않는다면, 조직이 도구에서 구매하는 것은 '정답'이 아니라 '검토 가능한 초안'이다. 검토 가능성이 낮은 산출물은 아무리 그럴듯해도 비용을 줄이지 못한다. 검토에 드는 시간이 절감분을 상쇄하고, 검토가 생략되면 책임이 그대로 남는다. 따라서 평가 축은 출력 품질의 인상에서, 근거를 어디까지 드러내는지와 검토자가 무엇을 확인해야 하는지를 얼마나 명확히 지정하는지로 옮겨간다.
출처 표시는 사후 책임 추적의 축을 하나 만든다
모델 산출물에 검출 가능한 표시가 들어가기 시작하면, 문서의 작성 경로를 사후에 물을 수 있는 축이 새로 생긴다. 법률 문서에서 누가 썼는지는 곧 책임 소재이므로 이 축은 조직 내부의 규율 방식에 직접 영향을 준다. 다만 이 축을 과대평가하지 않는 것이 중요하다. 표시는 확률적 판정이고, 텍스트가 편집·재작성되면 신호가 약해질 수 있으며, 표시를 확인할 수 있는 주체도 제한된다. 즉 출처 표시는 조직 내부 기록을 대체하지 않는다. 전략적으로 유효한 해석은 반대 방향이다. 외부에서 사후 판정이 가능해질수록, 내부에서 미리 남긴 기록의 값이 오른다. 사후 판정과 내부 기록이 어긋나는 조직은 설명해야 할 것이 늘고, 두 기록이 일치하는 조직은 설명 부담이 줄어든다.
기억으로 답하는 시스템과 조사를 하는 시스템은 다른 상품이다
법원 기록 제공자가 자사 데이터를 주요 AI 도구 안에서 질의할 수 있게 만든 움직임은 단순한 채널 확장이 아니다. 그 통합의 요점은 모델의 일반 학습지식에 답을 맡기지 않고, 관련 제출서면·결정·판결을 실제로 끌어와 교차 대조하게 만드는 데 있다. 일반 기억으로 답을 추측하는 모델과 실제로 조사를 수행하는 시스템 사이에는 진짜 차이가 있다는 것이 그 회사가 내세운 논지이고, 이는 우리가 유지해 온 원칙과 같은 방향이다. 답변의 신뢰도는 모델의 크기에서 나오지 않고, 어떤 1차 기록에 연결되었는지에서 나온다. 이 구분은 가격에도 반영된다. 근거 없는 답은 검토 비용을 사용자에게 전가하고, 근거가 붙은 답은 그 비용을 시스템이 흡수한다. 후자가 더 비싸게 팔리는 이유다.
세 층은 같은 병목을 가리킨다
규제 층은 책임 소재를 명확히 하고, 기술 층은 산출물의 출처를 판정 가능하게 만들고, 데이터 층은 답을 기록에 결박한다. 서로 독립적으로 움직인 세 변화가 공통으로 전제하는 것은 하나다. AI 답변은 그 자체로 신뢰의 근거가 되지 못한다는 것이다. 그렇다면 병목은 생성 능력이 아니라 검증 능력이다. 그리고 검증 능력은 모델을 교체해서 얻을 수 없다. 어떤 기록에 접근하는지, 그 기록과 답을 어떻게 대조하는지, 대조 결과를 어떻게 남기는지가 조직마다 다르기 때문이다. 이 지점이 전략적으로 중요한 이유는 명확하다. 모델은 시간이 지나면 평준화되지만, 검증 계층은 그 조직이 축적한 자산과 절차에 묶여 있어 복제가 어렵다. 경쟁 우위가 남는 자리는 그쪽이다.
이용자 관점의 확인 항목도 함께 바뀐다
규제가 책임 소재를 못박으면, 법률 서비스를 받는 쪽의 확인 항목도 달라진다. 지금까지 소비자가 물을 수 있던 것은 사무소가 AI를 쓰는지 여부 정도였다. 앞으로 물어야 하는 것은 두 가지다. 이 답이 어떤 원문에 연결되어 있는지, 그리고 틀렸을 때 누가 책임지는지다. 이 두 질문에 즉시 답할 수 있는 조직은 신뢰를 설명할 필요가 없고, 답하지 못하는 조직은 도입 사실 자체를 홍보로 쓸 수 없게 된다. 국내 법조에도 같은 기준이 논의될 때 참조점이 생긴다는 점에서 이 변화는 국경을 넘는다. 규제 문서의 문장 하나가 시장의 질문을 바꾸는 방식이 여기 있다. 새 의무를 만들지 않고도, 기존 의무가 어디에 남아 있는지를 확인해 주는 것으로 충분하다.
반론과 재반박
예상 반론 규제기관의 경고 통지는 새로운 규범을 만들지 않는 확인적 문서일 뿐이고, 출처 표시는 편집만 거치면 흐려진다. 따라서 실제로 달라지는 것은 거의 없고, 조직은 지금처럼 도구 성능을 기준으로 선택을 계속하면 된다는 반론이 가능하다.
재반박 규범이 새로 생기지 않아도 그 규범이 어디에 남아 있는지가 문서로 확인되면 분쟁에서의 입증 구조가 달라진다. 감독을 했다는 주장과 감독을 증명하는 기록은 다른 자산이고, 뒤의 것은 사고가 난 뒤에 만들 수 없다. 출처 표시가 확률적이라는 점도 반론이 되지 못한다. 그 불완전성은 오히려 내부 기록의 값을 올린다. 외부 판정이 흐릴수록 조직이 스스로 남긴 경로가 유일한 근거가 되기 때문이다. 즉 '달라지는 것이 없다'는 판단은, 달라진 것이 성능 축이 아니라 입증 축이라는 사실을 놓친다.
법마디 OS가 그리는 미래
앞으로 법률 AI 시장의 경쟁은 두 층으로 갈릴 가능성이 크다. 위층에서는 모델이 계속 평준화되어 성능 차이가 구매 결정을 가르지 못하게 된다. 아래층에서는 어떤 1차 기록에 연결되어 있고, 그 연결을 어떻게 증명하며, 검토 경로를 어떻게 남기는지가 갈린다. 규제가 책임 소재를 명문으로 확인하고 산출물에 출처 표시가 붙기 시작한 지금이 그 분화의 시작점이다. 이 구조에서 값이 붙는 자리는 답을 더 빨리 만드는 쪽이 아니라, 만들어진 답의 근거와 책임을 즉시 제시할 수 있는 쪽이다. 법률 조직에 필요한 준비는 새로운 도구 도입이 아니라, 지금 쓰는 도구의 산출물이 어디에 근거했는지를 기록으로 남기는 습관을 제도화하는 것이다. 그 습관은 규제가 강해질 때 비용이 아니라 방어선이 된다.
전략적 함의
- 도구 평가 기준을 출력 품질에서 검토 가능성으로 옮긴다. 근거를 어디까지 드러내는지, 검토자가 무엇을 확인해야 하는지를 벤더에게 문서로 요구한다.
- 감독 기록을 사후가 아니라 사전에 설계한다. 어떤 산출물이 어떤 원문에 연결되었고 누가 확인했는지를 그때그때 남기지 않으면, 나중에는 복원할 수 없다.
- 1차 기록 접근 경로를 자산으로 관리한다. 모델은 교체되지만 어떤 기록에 연결되어 있는지는 조직마다 다르고, 그 차이가 답변 신뢰도의 실제 원천이다.
"규제는 새 의무를 만들지 않았다. 기존 의무가 어디에 남아 있는지를 확인해 주었을 뿐이다. 그 확인만으로도 시장의 질문은 '무엇을 쓰는가'에서 '무엇에 근거했고 누가 책임지는가'로 옮겨간다."
