법률 AI의 절차적 지능: A2JRAG와 상태 그래프를 통한 맥락적 무결성 확보
법률 상담의 시의성과 정확성을 확보하기 위해 사용자의 절차적 단계를 추정하고 이에 최적화된 정보를 제공하는 A2JRAG 프레임워크와 절차 상태 그래프의 기술적 원리를 분석합니다.
초록 본 칼럼은 기존 RAG 시스템이 법률 절차의 선후 관계를 무시하고 의미론적 유사성에만 의존하여 발생하는 '절차적 부적합성' 문제를 해결하기 위한 A2JRAG(Access to Justice RAG) 프레임워크를 고찰합니다. '절차 상태 그래프(Procedural State Graph)'를 도입하여 사용자의 법적 상태를 동적으로 추적하고 검색 범위를 조건화하는 메커니즘을 분석하며, 이를 통해 법률 AI가 단순 지식 전달을 넘어 실무적 가이드를 제공할 수 있는 경로를 제시합니다. 최종적으로는 세분화된 클레임 수준의 검증 체계와 결합하여 리걸테크의 무결성을 한 단계 격상시키는 아키텍처적 대안을 논증합니다.
리걸테크 분야에서 RAG(검색증강생성)는 표준으로 자리 잡았으나, 여전히 '정확하지만 쓸모없는' 답변이라는 한계에 직면해 있습니다. 이는 현행 시스템이 법률 텍스트의 의미적 유사성(Semantic Similarity)에만 매몰되어, 해당 정보가 사용자의 현재 소송 단계나 절차적 맥락에 부합하는지 판단하는 '절차적 인지(Procedural Awareness)' 능력이 결여되어 있기 때문입니다. 예를 들어, 항소 기간이 지난 사용자에게 항소 이유서 작성법을 안내하는 것은 기술적으로는 정확할지언정 법률적으로는 치명적인 오류입니다. 본고에서는 이러한 간극을 메우기 위해 최근 제안된 A2JRAG 프레임워크와 절차 상태 그래프의 구조적 원리를 분석하고, 법률 AI가 나아가야 할 진정한 무결성의 방향을 제시하고자 합니다.
핵심 기술 개념
A2JRAG (Access to Justice RAG)
사용자가 법률 문제의 어느 단계에 있는지 파악하여 절차적으로 적절한 정보를 제공하도록 설계된 연구 프레임워크입니다.
절차 상태 그래프 (Procedural State Graph)
법률적 단계, 전환 조건, 맥락적 요소 및 안전 장치를 노드와 엣지로 구조화하여 AI가 사용자의 상태를 추정할 수 있게 돕는 데이터 구조입니다.
세분화된 클레임 수준 분석 (Fine-grained Claim-level Analysis)
문서 전체의 정확도가 아니라 생성된 문장 단위의 개별 주장(Claim)별로 사실 관계와 인용의 실재성을 검증하는 정밀 평가 방식입니다.
기술 심층 분석
절차적 인지(Procedural Awareness)의 메커니즘과 필요성
기존의 나이브한 RAG는 쿼리와 문서 간의 벡터 유사도에만 의존합니다. 그러나 법률 도메인에서 '증거 제출'이라는 키워드는 민사소송의 변론 준비 단계와 형사소송의 공판 단계에서 전혀 다른 절차적 의미를 갖습니다. A2JRAG는 사용자의 입력에서 '절차적 단서'를 추출하여 현재 상태를 식별합니다. 이 과정에서 모델은 단순한 키워드 매칭을 넘어, 사용자가 이미 소장을 접수했는지, 혹은 판결문을 송달받았는지와 같은 상태 변수를 파악합니다. 이러한 절차적 인지는 검색 쿼리를 재구성(Query Reformulation)하거나 검색된 결과 중 현재 단계에서 실행 불가능한 정보를 필터링하는 기준이 되어, 답변의 실무적 정합성을 비약적으로 향상시킵니다.
절차 상태 그래프(PSG)의 구조적 설계와 상태 전이
절차 상태 그래프(Procedural State Graph)는 법률 프로세스를 결정론적 유한 오토마타(DFA)와 유사한 구조로 정형화합니다. 각 노드는 '소 제기 전', '변론 기일', '상소 기간 내'와 같은 특정 법적 상태를 의미하며, 엣지는 '소장 접수'나 '판결문 송달'과 같은 사건(Event)에 의한 상태 전이를 정의합니다. 시스템은 대화 흐름 속에서 사용자의 상태를 PSG 상의 특정 노드로 맵핑합니다. 이때 중요한 것은 '에스컬레이션 트리거(Escalation Trigger)'의 설정입니다. AI가 감당할 수 없는 복잡한 절차적 전환점에 도달하거나 법적 위험이 감지될 경우, PSG는 이를 인식하여 즉시 인간 변호사에게 연결하거나 강력한 경고 문구를 삽입하도록 강제하는 안전 장치 역할을 수행합니다.
ClaimRAG-LAW를 통한 세분화된 무결성 검증
법률 답변의 무결성은 전체적인 맥락뿐만 아니라 아주 작은 단위의 주장에서도 유지되어야 합니다. ClaimRAG-LAW 벤치마크가 지향하는 바와 같이, 우리는 생성된 응답을 최소 단위의 '법률적 주장(Legal Claims)'으로 원자화해야 합니다. 각 클레임은 독립적으로 검색된 법령, 판례와 대조되어 진위가 판별됩니다. 이는 문서 수준의 유사도 점수가 높더라도 그 안에 포함된 특정 날짜나 조항 번호가 틀릴 수 있는 RAG의 고질적인 환각 문제를 해결하는 핵심 기법입니다. 특히 다중 관할권(Jurisdiction) 환경에서 각 국가나 지역별로 다른 절차법을 적용할 때, 이러한 세분화된 검증은 오답의 확산을 막는 최후의 보루가 됩니다.
HIVE를 활용한 확산 모델 기반의 환각 탐지 원리
최근 주목받는 HIVE(Hidden-Evidence Verification) 기법은 모델의 최종 출력물뿐만 아니라 생성 과정에서의 내부 상태를 추적합니다. 확산 모델(Diffusion LLM)의 노이즈 제거 궤적(Denoising Trajectory)에서 발생하는 숨겨진 증거들을 분석함으로써, 모델이 확신을 가지고 정보를 생성하는지 아니면 확률적 노이즈에 의해 환각을 일으키는지 판별합니다. 법률 AI에서 이는 매우 중요한데, 모델이 특정 법리를 인용할 때 내부적인 어텐션 맵(Attention Map)이 실제 관련 법전에 강하게 활성화되는지를 교차 검증할 수 있기 때문입니다. 결과적으로 텍스트 표면 아래에 숨겨진 '추론의 흔적'을 검사함으로써, 겉보기에 유창하지만 근거가 빈약한 답변을 사전에 차단하는 고차원적 무결성 검증이 가능해집니다.
기술적 트레이드오프
긴장 관계 절차 상태 그래프를 정교하게 설계할수록 답변의 안전성과 정확도는 높아지지만, 시스템의 유연성이 떨어지고 예상치 못한 사용자 시나리오에 대응하기 어려운 '경로 고착화' 문제가 발생합니다.
실무적 해소 이를 해결하기 위해 결정론적 그래프와 확률적 LLM 추론을 하이브리드 방식으로 결합해야 합니다. 명확한 법정 기간이나 필수 절차는 PSG의 하드 제약(Hard Constraints)으로 관리하되, 모호한 사실 관계나 전략적 판단이 필요한 영역은 LLM이 PSG의 맥락 정보를 소프트 프롬프트(Soft Prompt)로 참조하여 유연하게 답변하도록 설계함으로써 정밀도와 확장성의 균형을 맞춥니다.
법마디 OS에 적용한다면
법마디 OS의 차세대 업그레이드 방향으로 '절차 지능형 에이전트' 도입을 제안합니다. 우선, 한국 민사·형사 소송법을 기반으로 한 PSG를 구축하여 법마디 OS의 컨텍스트 엔진에 통합합니다. 사용자가 질문을 던지면, 시스템은 먼저 PSG 상에서 사용자의 위치를 추정하는 '상태 식별 에이전트'를 구동합니다. 식별된 상태에 따라 검색 쿼리에 절차적 필터를 자동 적용하고, zembed-1과 같은 법률 특화 임베딩 모델을 사용하여 해당 단계에 가장 밀접한 판례와 실무 지침서를 우선 순위화합니다. 마지막으로 ClaimRAG-LAW 방식의 세분화된 검증 파이프라인을 통과시켜, 생성된 답변이 현재 사용자의 절차적 단계에서 법적으로 유효한지 최종 확증하는 구조로 시스템을 고도화할 수 있습니다.
기술적 함의
- arrow_forward 법률 AI는 단순 지식 검색 엔진에서 절차적 가이드를 제공하는 지능형 에이전트로 진화하고 있습니다.
- arrow_forward 무결성 검증은 문서 단위를 넘어 개별 주장(Claim)과 모델 내부 상태(Hidden Evidence)까지 확장되어야 합니다.
- arrow_forward 기술적 정확도보다 중요한 것은 해당 정보가 사용자의 현재 법적 상황에 '시의적절'한가에 대한 판단 능력입니다.
"기술은 단순히 정답을 찾는 도구가 아니라, 복잡한 법률 절차 속에서 사용자가 길을 잃지 않게 돕는 정교한 지도여야 합니다."
