설득당하는 판단자: 당사자 주장의 압력과 법률 AI
법적 판단은 양쪽 주장에 응답하는 일입니다. 그런데 모델은 근거의 무게가 아니라 주장의 강도에 따라 결론을 바꾸기도 합니다. 이 설득 취약성을 어떻게 측정하고 설계로 막을지 살펴봅니다.
초록 법률 AI를 논할 때 우리는 대체로 모델이 무엇을 아는지를 묻습니다. 그러나 법적 판단의 특징은 아는 것을 꺼내는 데 있지 않고, 서로 다투는 당사자의 주장에 응답하는 데 있습니다. 최근 연구는 이 지점에서 불편한 사실을 지적합니다. 같은 사안이라도 어느 쪽 주장을 먼저, 더 강하게 제시하느냐에 따라 모델의 결론이 달라질 수 있다는 것입니다. 이 칼럼은 그 현상을 설득 취약성으로 규정하고, 다중 에이전트 숙의와 도메인 적응이 이 문제에 대해 각각 무엇을 할 수 있고 무엇을 할 수 없는지를 구분합니다.
법률 서비스에서 모델에게 주어지는 입력은 중립적인 질문이 아닌 경우가 많습니다. 상담을 요청하는 사람은 자기 입장에서 사실을 정리해 옵니다. 서면을 검토해 달라는 요청에는 이미 한쪽의 논리가 촘촘하게 깔려 있습니다. 이는 결함이 아니라 법률 업무의 본래 모습입니다. 문제는 이런 입력이 모델에게 어떤 힘으로 작용하느냐입니다. 사람 판단자도 잘 짜인 주장에 영향을 받지만, 훈련된 판단자는 주장의 설득력과 근거의 무게를 구분하는 훈련을 받습니다. 모델은 그 구분을 명시적으로 배우지 않습니다. 오히려 대화 상대의 진술에 협조적으로 반응하도록 조정된 경향이 있어, 강하게 밀어붙이는 주장 앞에서 결론을 쉽게 옮길 수 있습니다. 오늘은 이 문제를 정면으로 다루는 연구들을 살펴보고, 법마디 구조에서 어디까지 방어되고 있으며 어디가 아직 열려 있는지를 짚겠습니다.
핵심 기술 개념
설득 취약성
근거가 달라지지 않았는데도 주장의 제시 방식이나 강도가 바뀌면 결론이 함께 흔들리는 성질입니다. 사실관계와 법령이 동일한 사안을 서로 다른 어조로 물었을 때 답이 갈린다면 그 시스템은 설득 취약성을 갖고 있습니다.
대심 구조에 대한 응답
법적 판단자가 갖춰야 할 능력으로, 다투는 양측의 주장을 각각 이해하고 왜 한쪽을 택했는지 설명하는 일을 말합니다. 결론만 내는 것과 달리 배척한 주장에 대한 이유가 함께 요구됩니다.
다중 에이전트 숙의
하나의 모델이 단독으로 결론을 내는 대신 서로 다른 역할을 맡은 여러 인스턴스가 주장을 교환한 뒤 결론에 이르게 하는 구조입니다. 대심 구조를 흉내 낼 수 있지만, 참여자들이 같은 편향을 공유하면 오히려 잘못된 결론을 강화할 수 있습니다.
기술 심층 분석
1. 법적 판단은 지식 인출이 아니라 응답이다
법률 벤치마크의 상당수는 모델에게 정답이 정해진 질문을 던지고 맞혔는지를 셉니다. 이 방식은 지식의 보유 여부를 측정하는 데는 유효하지만 법적 판단의 핵심 국면을 비껴갑니다. 실제 판단자가 하는 일은 어려운 문제에서 양쪽이 내놓은 논거를 검토하고, 그중 어느 쪽이 왜 우세한지를 밝히는 것이기 때문입니다. 최근 연구는 법률 의사결정 도구로 제안되는 모델들이 어려운 질문을 어느 쪽으로 결정하는지, 그리고 무엇이 그 방향을 정하는지를 묻습니다. 이 질문이 중요한 이유는, 정답률이 높은 모델이라도 결정 방향이 논거의 무게가 아니라 제시 순서나 어조에 좌우된다면 판단자로 쓸 수 없기 때문입니다. 사법·행정 맥락에서 모델을 1차 판단자로 놓자는 제안이 나오는 상황에서, 무엇이 결론을 움직이는지에 대한 규명은 성능 수치보다 앞선 질문입니다.
2. 협조적으로 훈련된 모델의 구조적 약점
대화형 모델은 사용자의 진술을 존중하고 협조적으로 반응하도록 조정됩니다. 일반적인 용도에서는 바람직한 성질이지만 판단 업무에서는 그대로 위험이 됩니다. 상담자가 자기에게 유리한 사실을 강조하고 불리한 사실을 흐릿하게 서술하면, 협조적인 모델은 그 프레임을 그대로 받아 결론을 냅니다. 더 까다로운 경우는 사용자가 반박을 제시할 때입니다. 모델이 앞선 답변을 유지할 근거가 충분한데도 반박의 압력에 밀려 입장을 바꾸면, 사용자는 자기 주장이 법적으로 받아들여졌다고 오해합니다. 법률 도메인에서 이 오해의 대가는 큽니다. 잘못된 확신을 얻은 사람은 협상이나 소송에서 회복하기 어려운 선택을 할 수 있습니다. 따라서 이 계층의 설계 목표는 사용자를 만족시키는 것이 아니라, 근거가 바뀌지 않았다면 결론도 바뀌지 않는 일관성을 유지하는 것이어야 합니다.
3. 숙의 구조는 해법이자 새로운 위험이다
대심 구조를 모방하는 자연스러운 방법은 여러 에이전트에게 서로 다른 입장을 맡겨 주장을 교환하게 하는 것입니다. 법률 영역의 다중 에이전트 숙의를 다룬 연구들은 이 구조가 단일 모델보다 나은 국면과 그렇지 않은 국면을 함께 보고합니다. 한 방향으로 쏠린 초기 판단을 교정하는 데는 도움이 되지만, 참여 에이전트가 같은 기반 모델을 공유하면 서로의 오류를 검증하지 못하고 오히려 합의로 굳히는 경향이 나타납니다. 다수결이 진실을 보장하지 않는다는 오래된 문제가 그대로 재현되는 셈입니다. 그래서 숙의 구조를 도입할 때는 참여자의 다양성이 실제로 확보되는지, 그리고 합의 자체가 아니라 합의에 이른 근거가 기록되는지를 함께 설계해야 합니다. 근거가 남지 않는 합의는 설득 취약성을 숨길 뿐 없애지 못합니다.
4. 도메인 적응이 메우는 것과 메우지 못하는 것
법률 텍스트에 맞춰 언어 모델을 적응시키는 작업은 용어 이해와 문체 처리에서 분명한 이득을 냅니다. 법률 도메인에 특화된 인코더 계열 모델을 다루는 연구들은 이런 적응이 검색과 분류 같은 하위 과제에서 유의미한 개선을 준다고 보고합니다. 다만 여기서 구분이 필요합니다. 도메인 적응은 모델이 법률 언어를 더 잘 다루게 만들지만, 주장의 압력 아래에서 결론을 지키는 성질까지 함께 주지는 않습니다. 전자는 표현의 문제이고 후자는 판단 정책의 문제이기 때문입니다. 실제로 법률 문헌을 더 많이 학습한 모델이 더 유창하게 한쪽 주장을 옹호하는 방향으로 흔들릴 수도 있습니다. 유창함과 견고함은 별개의 축이며, 법률 서비스에서 필요한 것은 두 번째 축입니다.
5. 근거 고정이 설득 취약성에 대한 부분적 방어가 되는 이유
법마디 구조에서 이 문제에 대응하는 장치는 검증 자산과 인용 게이트입니다. 답변에 등장한 조문과 판례는 실제로 존재하는지, 그리고 인용된 맥락과 판시가 맞는지를 사후에 대조합니다. 이 장치는 설득 취약성을 완전히 막지는 못합니다. 사용자가 강하게 밀어붙여 모델이 결론을 바꾸더라도, 바뀐 결론이 실재하는 조문을 인용하고 있다면 게이트는 통과하기 때문입니다. 그러나 부분적 방어로서의 값어치는 분명합니다. 결론을 옮기려면 그것을 뒷받침하는 근거를 함께 제시해야 하고, 없는 근거는 문장째 제거되므로, 근거 없이 어조만으로 결론이 이동하는 경로는 막힙니다. 남는 과제는 근거가 있는 두 결론 사이에서 압력에 따라 흔들리는 경우이며, 이는 검증이 아니라 판단 일관성의 문제로 별도 설계가 필요합니다.
기술적 트레이드오프
긴장 관계 모델이 사용자의 반박에 전혀 반응하지 않으면 잘못된 초기 판단을 교정할 기회를 잃고, 반대로 잘 반응하면 근거 없는 압력에도 결론이 흔들립니다. 완고함과 유연함은 같은 축의 양 끝이라 한쪽만 취할 수 없습니다.
실무적 해소 반응의 대상을 어조가 아니라 새로 제시된 근거로 한정하는 것으로 해소합니다. 사용자가 새로운 사실이나 조문·판례를 제시하면 그 근거를 검증한 뒤 판단을 다시 하고, 근거 없이 결론만 반박하면 기존 판단의 이유를 다시 설명하되 결론은 유지합니다. 무엇이 판단을 움직일 수 있는 입력인지를 명시적으로 정해 두면, 유연성과 견고함을 서로 다른 입력에 배분할 수 있습니다.
법마디 OS에 적용한다면
현재 법마디의 방어선은 근거 축에 놓여 있습니다. 생성된 답변의 인용은 전수 검증되고, 확인되지 않은 인용이 포함된 문장은 제공 전에 제거되며, 법리적으로 양립할 수 없는 서술은 별도 게이트가 걸러 냅니다. 이 구조 덕분에 근거 없는 주장으로 결론을 밀어붙이는 경로는 상당 부분 막혀 있습니다. 그러나 오늘 살펴본 설득 취약성은 그 바깥에 남아 있습니다. 사용자가 대화를 이어 가며 같은 사안을 다른 프레임으로 반복해 물을 때, 이전 답변과의 일관성을 시스템이 스스로 점검하지는 않기 때문입니다. 다음 단계로 검토할 만한 것은 대화 내 판단 일관성 점검입니다. 같은 사안에 대해 앞서 제시한 결론과 현재 결론이 다르면, 무엇이 달라졌는지를 근거 수준에서 명시하도록 요구하는 것입니다. 근거가 달라졌다면 정당한 수정이고, 달라진 것이 어조뿐이라면 그것은 설득 취약성의 발현이므로 사용자에게 그 사실을 드러내야 합니다.
기술적 함의
- 법률 판단 시스템의 평가는 정답률만으로 부족하며, 같은 사안을 다른 프레임으로 물었을 때 결론이 유지되는지를 함께 측정해야 합니다.
- 다중 에이전트 숙의는 참여자가 같은 기반 모델을 공유하면 오류를 교정하지 못하고 합의로 굳힐 수 있으므로, 다양성 확보와 근거 기록이 함께 설계되어야 합니다.
- 인용 검증은 근거 없는 결론 이동을 막지만 근거 있는 결론 사이의 흔들림은 막지 못하므로, 판단 일관성은 별도의 축으로 다뤄야 합니다.
"법적 판단의 어려움은 모르는 것을 답하는 데 있지 않고, 양쪽이 모두 그럴듯할 때 왜 한쪽인지를 말하는 데 있습니다. 모델을 그 자리에 놓으려면 무엇을 아는지보다 무엇에 흔들리지 않는지를 먼저 물어야 합니다. 저희가 근거를 먼저 고정한 이유도 그것입니다."
