메인으로
서연 · 최고전략책임자(CSO) · 오늘의 전략 칼럼

해석의 분기: 조직은 왜 같은 AI로 다른 답을 얻는가

같은 모델을 써도 팀마다 다른 결론이 나오는 것은 모델의 문제가 아니라 검증 레이어의 부재입니다. 법률 AI 경쟁의 축이 모델에서 사실의 단일성으로 옮겨가는 구조를 분석합니다.

초록 법률 AI 시장의 논쟁은 오랫동안 '어떤 기반 모델을 쓰는가'에 머물러 왔습니다. 그러나 같은 모델을 쓰는 두 조직이 전혀 다른 품질의 결과를 얻는 현상은, 우위의 원천이 모델이 아니라 모델을 둘러싼 운영 시스템에 있음을 보여줍니다. 이 칼럼은 그 현상을 '해석의 분기(interpretation divergence)'로 규정하고, 팀마다 다른 프롬프트·다른 자료·다른 결론이 축적될 때 조직이 치르는 비용을 거래비용 이론과 정보 비대칭의 언어로 분석합니다. 결론은 단순합니다. 기반 모델이 상품화될수록 방어 가능한 자산은 검증된 근거의 단일 출처와 그것을 강제하는 검증 레이어로 이동합니다.

한 기업의 법무팀에서 같은 계약 조항을 두고 두 담당자가 서로 다른 결론을 들고 왔다고 가정해 봅시다. 두 사람은 같은 회사의 같은 AI 도구를 썼습니다. 다른 것은 프롬프트와 참조한 자료, 그리고 그 결과를 아무도 대조하지 않았다는 사실뿐입니다. 이 장면은 예외적이지 않습니다. 리걸테크 업계의 한 논평은 조직 안에서 팀마다 다른 에이전트가 다른 프롬프트와 다른 데이터 소스로 굴러가면서 '서로 다른 현실 해석'에 도달하는 상황을 경고했습니다. 흥미로운 점은 그 경고가 모델의 성능을 문제 삼지 않는다는 것입니다. 모델은 충분히 좋습니다. 무너지는 것은 모델이 아니라, 그 출력이 무엇에 근거했는지를 조직이 사후에 재현하지 못한다는 사실입니다. 오늘 우리는 이 문제를 '해석의 분기'라 부르고, 왜 이것이 법률 AI 경쟁의 진짜 전장이 되는지 따져보려 합니다.

핵심 개념 정의

해석의 분기(interpretation divergence)

같은 조직이 같은 모델을 쓰면서도, 참조 자료와 검증 절차가 통제되지 않아 사안별·팀별로 서로 다른 사실 인식과 결론에 도달하는 상태를 말합니다. 개별 산출물의 오류와 달리, 조직 차원의 판단 근거가 조각나는 구조적 실패입니다.

검증 레이어(verification layer)

생성된 답변의 모든 인용을 권위 있는 원본 출처와 실시간으로 대조하고, 대조에 실패한 인용은 노출 자체를 차단하는 계층입니다. 모델의 창의성이 아니라 모델의 주장 가능 범위를 규정한다는 점에서 생성기와 독립적으로 작동합니다.

근거의 단일 출처(SSOT)

조직의 모든 산출물이 동일한 검증 자산에서만 근거를 인용하도록 강제하는 데이터 규율입니다. 자료의 양이 아니라 자료의 '유일성'이 핵심이며, 이것이 있어야 서로 다른 담당자의 결론이 같은 사실 위에서 비교됩니다.

전략적 관점

1

모델은 상품화되고, 맥락은 상품화되지 않는다

기반 모델의 성능 격차는 빠르게 좁혀지고 있습니다. 같은 계열의 최상위 모델들이 몇 달 간격으로 서로를 추월하는 시장에서, 특정 모델을 채택했다는 사실은 더 이상 방어 가능한 차별화가 아닙니다. 최근 한 논평이 지적했듯, 동일한 AI를 쓰는 두 제품이 전혀 다른 결과를 내는 이유는 모델이 아니라 그것을 둘러싼 운영 구조에 있습니다. 구조화된 조직 지식, 연결된 워크플로, 거버넌스, 기존 도구와의 통합이 결과를 가릅니다. 전략적으로 말하면 이것은 자원기반관점(RBVs)의 고전적 결론과 정확히 일치합니다. 시장에서 누구나 살 수 있는 자원은 지대(rent)를 만들지 못하며, 모방이 어렵고 조직에 배태된 자원만이 지속적 우위를 만듭니다. 모델 가중치는 전자이고, 검증된 법률 근거의 축적과 그것을 강제하는 절차는 후자입니다. 법마디가 스스로를 특정 모델의 래퍼가 아니라 '운영체제'로 규정하는 이유가 여기 있습니다. 모델은 교체 가능한 부품이어야 하고, 교체해도 답변 품질이 흔들리지 않아야 그 시스템은 비로소 자산입니다.

2

해석의 분기는 오류가 아니라 조직 비용이다

AI가 만든 틀린 문장 하나는 검토자가 잡아내면 그만입니다. 그러나 팀마다 다른 근거로 다른 결론에 도달하는 상태는 개별 검토로 해소되지 않습니다. 이때 발생하는 비용은 오류 수정 비용이 아니라 조정 비용입니다. 어느 결론이 맞는지 판단하려면 두 담당자가 참조한 자료를 역추적해야 하고, 역추적이 불가능하면 조직은 결국 가장 목소리가 큰 사람의 해석을 채택합니다. 거래비용 경제학의 언어로 옮기면, 검증 불가능한 산출물은 사후 기회주의를 억제할 수 없기 때문에 조직 내부의 조정 비용을 구조적으로 끌어올립니다. 더 위험한 것은 이 비용이 회계장부에 잡히지 않는다는 점입니다. 도구 도입의 ROI는 시간 단축으로 측정되는데, 해석의 분기가 만드는 손실은 잘못된 전제 위에서 내려진 의사결정으로 뒤늦게, 그리고 다른 이름으로 나타납니다. 도입은 늘었는데 성과는 잡히지 않는다는 업계의 반복된 관찰은 상당 부분 이 지점에서 설명됩니다.

3

도입 곡선의 앞단이 아니라 뒷단에서 승부가 난다

법률 AI의 확산은 이제 초기 수용자 단계를 지났습니다. 한 업계 보고서는 법률 전문가 개인의 생성형 AI 사용이 1년 만에 두 배 이상 늘어난 반면 조직 단위의 정착은 그에 못 미친다고 진단했습니다. 이 격차는 보급 곡선(diffusion curve)의 전형적인 병목을 보여줍니다. 개인은 도구를 시험할 때 검증 부담을 스스로 진니다. 그러나 조직이 도구를 표준으로 채택하려면 산출물의 근거를 제3자에게 설명할 수 있어야 하고, 이 요구는 개인 사용에는 없던 새로운 제약입니다. 즉 확산의 앞단(호기심)과 뒷단(제도화)은 완전히 다른 성공 조건을 갖습니다. 앞단에서는 유창함이 팔리고, 뒷단에서는 재현 가능성이 팔립니다. 우리가 답변마다 인용 검증 결과를 함께 노출하고, 검증되지 않은 인용은 문장 단위로 제거하는 설계를 고수하는 것은 미학적 취향이 아니라 뒷단의 요구에 대한 응답입니다.

4

실패를 드러내는 시스템이 더 빨리 신뢰를 얻는다

많은 제품이 불확실성을 감추는 방향으로 UX를 설계합니다. 근거가 부족해도 답을 만들어 내고, 확신 없는 대목을 유창한 문장으로 덮습니다. 단기적으로는 만족도가 올라가지만, 이 전략은 신뢰의 축적을 원천적으로 막습니다. 사용자가 그 답이 맞았는지 확인할 방법이 없기 때문입니다. 반대로 근거를 찾지 못했을 때 '확인되지 않았다'고 말하는 시스템은 매 순간 약간의 만족도를 잃는 대신, 말한 것은 반드시 사실이라는 평판을 축적합니다. 정보 비대칭 시장에서 신호(signal)가 신뢰를 얻으려면 흉내 내기에 비용이 들어야 합니다. 검증 실패를 정직하게 노출하는 것은 정확히 그런 비싼 신호입니다. 아무 근거나 붙여 통과시키는 경쟁자는 이 신호를 모방할 수 없습니다. 모방하는 순간 자신의 답변 절반이 차단될 것이기 때문입니다. 법률처럼 오답의 대가가 인생 단위로 청구되는 시장에서, 이 비대칭은 시간이 지날수록 벌어집니다.

5

검증 레이어는 모델 교체를 전략적 선택으로 바꾼다

생성기와 검증기가 한 몸이면 조직은 모델 공급자에게 인질로 잡힙니다. 가격이 오르거나 품질이 흔들리거나 서비스가 중단돼도 대안을 쓸 수 없습니다. 반대로 검증 레이어가 생성기 바깥에 독립적으로 존재하면, 모델은 언제든 갈아 끼울 수 있는 부품이 됩니다. 이때 협상력은 공급자에서 시스템 소유자로 이동합니다. 이는 추상적 주장이 아니라 운영의 문제이기도 합니다. 단일 생성기에 의존하는 구조는 그 공급자의 장애 하나로 서비스 전체가 멈추는 단일 실패점을 갖습니다. 검증 레이어를 부품 바깥에 두는 아키텍처는 품질의 하한을 시스템이 보증하기 때문에, 모델 교체가 품질 리스크가 아니라 비용·성능 최적화의 카드가 됩니다. 우리가 프로바이더 추상화를 로드맵의 상단에 두는 이유는 기술적 취향이 아니라, 이 협상력의 방향을 바꾸기 위해서입니다.

반론과 재반박

예상 반론 검증 레이어는 결국 속도를 희생시키는 규제 장치가 아닌가. 사용자는 완벽한 근거보다 빠른 초안을 원하며, 지나친 fail-closed는 답변을 빈약하게 만들어 경쟁에서 뒤처지게 만든다는 반론이 가능합니다.

재반박 타당한 지적이며, 실제로 우리는 검증 때문에 답변의 일부를 잃는 순간을 매일 감수합니다. 그러나 이 트레이드오프는 대칭적이지 않습니다. 빠르지만 틀린 초안은 검토자가 다시 검증해야 하므로 절약한 시간을 되돌려 줍니다. 반면 검증된 근거 위에서 짧게 나온 답은 그대로 다음 단계로 넘어갑니다. 즉 fail-closed는 총 소요시간을 늘리는 것이 아니라, 비용을 뒤가 아니라 앞으로 옮기는 설계입니다. 더구나 근거가 없을 때 침묵하는 시스템은 사용자에게 '어디를 더 조사해야 하는지'라는 정보를 줍니다. 유창한 오답은 그 정보마저 지웁니다.

법마디 OS가 그리는 미래

단기적으로 우리의 목표는 분명합니다. 모든 답변의 모든 인용이 국가법령정보센터 원문과 대조되고, 대조에 실패한 인용은 사용자에게 도달하기 전에 제거되는 상태를 예외 없이 유지하는 것입니다. 중기적으로는 생성기를 완전한 부품으로 격리해, 어떤 모델을 끼워도 동일한 검증 게이트를 통과한 동일 품질의 답변이 나오는 구조를 완성하려 합니다. 이때 모델 선택은 품질의 문제가 아니라 비용과 속도의 문제로 내려앉습니다. 장기적으로는 이 검증 자산이 개인 상담을 넘어 시험 답안, 판례 분석, 문서 작성까지 하나의 사실 기반 위에서 움직이는 상태를 지향합니다. 같은 사안에 대해 누가 묻든, 어떤 리더가 답하든, 어떤 모델이 문장을 쓰든 근거는 하나여야 합니다. 그것이 우리가 말하는 운영체제의 의미입니다.

전략적 함의

"좋은 모델은 문장을 만들지만, 좋은 시스템은 그 문장이 무엇에 근거했는지를 남깁니다. 남는 쪽이 결국 자산이 됩니다."

참고 자료

칼럼니스트

서연

서연

최고전략책임자 (CSO · Chief Strategy Officer)

미국 연방대법원 로클럭 출신급 / 글로벌 Top3 전략 컨설팅 파트너급

법마디 OS 무료로 경험하기
본 칼럼은 법마디 OS 전략팀의 관점이며, 투자 권유나 법률 자문이 아닙니다.