인라인 인용의 무결성: 스팬 단위 접지와 근거 오지정 제어
법률 AI의 신뢰성을 훼손하는 근거 오지정 환각을 분석하고, 텍스트 스팬 단위의 정밀 인용 학습 메커니즘을 통해 완결된 법률적 증명력을 확보하는 방안을 고찰합니다.
초록 법률 RAG 시스템에서 출처 제시는 생성 결과물의 증명력을 담보하는 핵심 장치이나, 생성된 주장과 실제 부합하지 않는 판례 조문을 겉치레로 부착하는 '근거 오지정(Misgrounding)' 환각이 실무적 위협으로 대두되고 있습니다. 기존의 인-컨텍스트 프롬프팅 방식은 문서 전체나 조항 번호 수준의 성긴 참조에 머물러 문맥 내부의 논리적 합치성을 보증하지 못합니다. 본 칼럼에서는 응답 내 모든 원자적 주장(Claim)을 원본 문서의 최소 텍스트 스팬(Span)과 일대일로 정렬하는 정밀 근거 구절 인용 학습(Fine-Grained Grounded Citation)의 원리를 분석합니다. 아울러 인용 토큰 강제 메커니즘과 사후 함의 검증 파이프라인의 연동을 통해 법마디 OS가 지향해야 할 결정론적 인용 무결성 체계를 제시합니다.
법률 인공지능이 생성한 의견서 하단에 그럴듯한 대법원 판례 번호와 민법 조항이 각주로 달려 있는 장면을 상상해 보십시오. 표면적으로는 완벽한 법리적 근거를 갖춘 것처럼 보이지만, 실제로 해당 판례의 원문을 대조해 보면 생성된 주장과 전혀 무관하거나 오히려 정반대의 취지를 판시한 경우가 적지 않습니다. 이것이 바로 생성형 모델이 인용 형식만을 모사하면서 발생하는 전형적인 '근거 오지정(Misgrounding Hallucination)' 문제입니다. 법률 도메인에서 잘못된 인용은 단순한 오답을 넘어 소송 당사자와 법원에 심각한 절차적 혼선을 초래하는 치명적 결함입니다. 대형 언어 모델이 프롬프트의 지시만으로 출처를 인용하게 만드는 방식은 문서 단위의 거친 매핑에 그쳐 논리적 엄밀성을 담보할 수 없습니다. 따라서 우리는 모델이 주장을 도출하는 순간마다 원본 텍스트의 구체적 문장 및 어구 단위를 직접 지시하도록 학습시키는 구조적 개입에 주목해야 합니다.
핵심 기술 개념
근거 오지정 환각 (Misgrounding Hallucination)
언어 모델이 주장을 생성하면서 실제로는 그 주장을 뒷받침하지 않는 엉뚱한 참조 문서나 조항을 출처로 연결하는 현상입니다.
정밀 근거 인용 (Fine-Grained Grounded Citation)
문서 전체나 ID 단위가 아니라, 주장의 논리적 전제가 되는 원본 문서 내 최소 텍스트 스팬(Span)을 직접 특정하여 정렬하는 인용 방식입니다.
텍스트 스팬 (Text Span)
문서 내에서 시작점과 끝점의 토큰 오프셋으로 명확히 구획되는 연속된 문자열 구절을 의미합니다.
기술 심층 분석
법률 인용의 허상: 근거 오지정의 생성론적 병목
언어 모델이 RAG 파이프라인에서 컨텍스트를 제공받았을 때, 모델은 입력된 문서 내 토큰 시퀀스와 사전 학습된 내부 파라미터 지식을 혼합하여 디코딩을 수행합니다. 이 과정에서 모델은 '인용 부호 뒤에는 문서 식별자가 와야 한다'는 표면적 문법 패턴을 쉽게 학습하지만, 생성된 주장의 명제적 내용과 인용 대상 텍스트 간의 엄밀한 논리적 수반 관계(Entailment)를 계산하는 데에는 빈번히 실패합니다. 프롬프트 기반의 단순 인용 지시는 모델로 하여금 문맥상 가장 출현 빈도가 높거나 주의 집중(Attention) 가중치가 높게 잡힌 법령 번호를 무작위로 할당하게 만듭니다. 그 결과 생성문 자체는 유려하지만 실제 조문 내용과는 괴리되는 '형식적 인용'이 완성됩니다. 이러한 근거 오지정은 검색 단계의 오류가 아니라 생성 디코더 내부의 귀속(Attribution) 메커니즘 부재에서 기인하므로, 단순한 프롬프트 개선만으로는 원천 차단이 불가능합니다.
스팬 단위 정렬: 최소 의미 단위로의 컨텍스트 축소
근거 오지정을 해결하기 위한 선결 과제는 모델이 참조하는 정보의 입도(Granularity)를 문서 수준에서 '최소 텍스트 스팬' 수준으로 끌어내리는 것입니다. 기존 RAG 시스템은 통상 수백 토큰 크기의 청크(Chunk)를 통째로 모델에 주입하므로, 모델은 청크 내부의 잡음 정보와 핵심 증거를 혼동하게 됩니다. 반면 스팬 단위 정밀 접지 구조에서는 법률 조항의 본문, 단서, 각 호 등 독립적인 법적 효력을 갖는 최소 문장 단위를 추출하여 인덱싱합니다. 나아가 질의에 대응하는 답변 생성 시, 생성되는 각 문장 단위의 클레임(Claim)마다 원본 문서 내 특정 시작 오프셋과 종료 오프셋을 직접 가리키는 포인터를 생성하도록 유도합니다. 이렇게 참조 범위를 좁히면 LLM이 긴 문맥 속에서 겪는 위치 편향(Lost-in-the-Middle)을 방지하고, 특정 주장이 어느 문장에 의존하고 있는지를 결정론적으로 추적할 수 있게 됩니다.
FRONT 프레임워크와 인용 토큰 강제 디코딩 메커니즘
정밀 근거 인용 프레임워크(FRONT)는 모델의 지도 미세조정(SFT) 단계에서 정밀 인용 토큰을 특수 토큰 형태로 시퀀스에 결합합니다. 모델은 일반 텍스트 토큰을 생성하다가 인용이 필요한 시점에 특수한 인용 시작 토큰, 원본 텍스트 스팬의 직접적인 발췌 구절(Supporting Quote), 그리고 문서 인덱스를 차례로 출력하도록 목적 함수를 최적화합니다. 이 메커니즘의 핵심은 모델이 원본 문서에 '실재하는 문자열'을 그대로 복사하여 디코딩하도록 어텐션을 강제하는 복사 메커니즘(Copy Mechanism)의 결합에 있습니다. 모델이 자의적으로 판례 요지를 왜곡하여 요약하는 대신, 원문의 정확한 구절을 스팬 형태로 출력하게 만듦으로써 환각의 여지를 차단합니다. 이는 모델 내부의 지식 활성화보다 주어진 컨텍스트 스팬에 대한 조건부 확률을 극대화하여 출력 분포를 엄격히 제한하는 원리로 작동합니다.
인용 신뢰성 완결: 자연어 추론(NLI) 기반 사후 검증 루프
스팬 단위 인용이 생성되었다 하더라도, 추출된 원문 스팬이 생성된 주장을 충분히 지지하는지에 대한 기계적 검증이 추가로 수반되어야 합니다. 이를 위해 정밀 인용 파이프라인의 후단에는 경량화된 자연어 추론(NLI) 검증기가 배치됩니다. 검증기는 생성된 문장을 가설(Hypothesis)로, 인용된 텍스트 스팬을 전제(Premise)로 설정하여 '함의(Entailment)', '중립(Neutral)', '모순(Contradiction)'을 분류합니다. 만약 함의 점수가 사전에 정의된 임계값에 미달할 경우, 시스템은 해당 인용을 기각하고 모델에 재수정을 요구하거나 불확실성 플래그를 표기합니다. 이와 같은 사후 정합성 감사는 디코더의 잠재적 오작동을 이중으로 방어하여 최종 법률 문서의 인용 무결성을 보증하는 결정적 안전망으로 기능합니다.
기술적 트레이드오프
긴장 관계 인용의 입도를 극단적인 스팬 단위로 좁히고 토큰 레벨에서 복사를 강제할수록 인용의 정확도는 완벽에 가까워지지만, 텍스트의 유려한 문장 구조 형성과 생성 추론 속도는 급격히 저하됩니다.
실무적 해소 이를 해결하기 위해 법적 결론 및 요건 포섭과 같은 핵심 주장에는 스팬 단위 강제 인용을 적용하고, 일반적인 접속 문맥이나 서술부에는 표준적 디코딩을 허용하는 계층적 인용 생성 정책을 수립합니다. 또한 인라인 스팬 검증을 비동기 파이프라인으로 분리하여 실시간 사용자 응답 지연을 최소화합니다.
법마디 OS에 적용한다면
법마디 OS의 법률 검토 및 서면 작성 엔진에 스팬 단위 정밀 인용 아키텍처를 전면 도입할 수 있습니다. 첫째, 판례 및 법령 코퍼스를 파싱할 때 단순 청킹을 넘어 조항 번호, 항, 호 및 판시사항별로 고유 스팬 오프셋 메타데이터를 부여하는 미세 인덱싱 체계를 구축합니다. 둘째, 법마디 생성 모델의 출력 스키마에 정밀 인용 태그를 정의하여 각 법률적 판단 문장이 참조 조문의 원문 텍스트 스팬과 일대일로 결합되도록 디코딩 파이프라인을 개편합니다. 셋째, 실시간 판례 인용 시 FRONT 방식의 직접 발췌 토큰 제어를 적용하여 모델이 판례 취지를 임의로 변형하는 행위를 방지합니다. 넷째, 생성 완료 직후 NLI 기반 지지도 검사기를 통해 함의 점수를 산출하고, 점수가 낮은 인용은 UI 상에서 경고 배지와 함께 원문 대조창을 즉시 팝업하는 안전장치를 구현합니다. 이를 통해 나홀로 소송인과 실무 변호사 모두에게 100% 검증 가능한 고신뢰 법률 결과물을 제공합니다.
기술적 함의
- 문서 단위의 성긴 검색과 프롬프트 의존형 인용은 법률 AI에서 필연적으로 근거 오지정 환각을 유발합니다.
- 텍스트 스팬 단위의 미세 정렬과 인용 토큰 강제 학습은 생성문의 법적 증명력을 비약적으로 향상시킵니다.
- 인용의 정확도는 사후 자연어 추론 검증기와 결합될 때 비로소 결정론적인 무결성을 확보할 수 있습니다.
"인용의 가치는 그럴듯한 외형에 있는 것이 아니라, 주장의 모든 단어가 실제 법조문과 판결문의 정확한 텍스트 스팬 위에 단단히 딛고 서 있는 정합성에서 증명됩니다."
참고 자료
- arxiv.org How Much Do Legal RAG Systems Still Hallucinate?
- arxiv.org LegalBench
- alphaxiv.org Graph Retrieval-Augmented Generation: A Survey
- arxiv.org Graph Retrieval-Augmented Generation: A Survey
- huggingface.co Hugging Face Papers 2408.08921
- arxiv.org Graph Retrieval-Augmented Generation: A Survey
- arxiv.org Learning Fine-Grained Grounded Citations for Attributed Large Language Models
- huggingface.co Hugging Face Papers 2408.04568
- arxiv.org LegalBench-RAG: A Benchmark for Retrieval-Augmented Generation in the Legal Domain
- arxiv.org Fine
