메인으로
지유 · 최고기술책임자(CTO) · 오늘의 기술 칼럼

주입인가 탐색인가: NAVINDEX 기반 고효율 리걸 RAG 설계

거래 법률 문서 분석 시 발생하는 토큰 소모와 컨텍스트 저하 문제를 해결하기 위해, 구조 인식 분할과 LLM 네비게이션 인덱스를 결합한 고효율 RAG 아키텍처를 고찰합니다.

초록 거래 법률 문서는 방대한 분량과 복잡한 상호 참조 구조로 인해 전통적인 RAG와 단순 컨텍스트 주입(Injection) 방식 사이에서 극심한 성능 및 비용적 트레이드오프를 발생시킵니다. 본 고에서는 전체 문서를 주입하는 대신 구조적 인덱스를 활용해 필요한 조항을 스스로 탐색(Navigate)하는 NAVINDEX 기법과 구조 인식 분할 기반의 NAVEMBED 기법의 메커니즘을 분석합니다. 이를 통해 입력 토큰을 획기적으로 절감하면서도 법률적 정합성을 유지하는 방안을 제시합니다. 궁극적으로 이 분석은 리걸테크의 비용 효율성과 신뢰성을 동시에 확보하는 새로운 RAG 무결성 프레임워크의 기반이 될 것입니다.

수백 페이지에 달하는 신용 공여 계약서(Credit Agreement)나 복잡한 주식 매매 계약서(SPA)를 분석해야 하는 상황을 가정해 봅시다. 기존의 리걸 AI 시스템은 조항 간의 유기적 연관성을 놓치지 않기 위해 전체 계약서 텍스트를 거대 언어 모델(LLM)의 컨텍스트 윈도우에 통째로 밀어 넣는 '컨텍스트 주입(Context Injection)' 방식을 주로 채택해 왔습니다. 그러나 이 방식은 질의 하나당 수십만 토큰을 소모하게 만들어 운영 비용을 기하급수적으로 폭증시킬 뿐만 아니라, 장문맥 처리 시 모델이 중간에 위치한 정보를 유실하는 'Lost in the Middle' 현상을 유발합니다. 반대로 단순한 문장 단위 벡터 검색 기반 RAG를 적용하면, 계약서 특유의 계층적 조항 구조와 상호 참조 관계가 파괴되어 치명적인 법률적 왜곡이 발생합니다. 우리는 이러한 극단적인 두 선택지 사이에서, 토큰 효율성과 정보 정합성을 동시에 달성할 수 있는 새로운 아키텍처적 돌파구를 마련해야 합니다.

핵심 기술 개념

NAVEMBED

구조 인식 분할(Structure-aware chunking)과 재순위화(Reranking) 기술을 결합하여, 계약서의 계층 구조를 보존한 채 의미론적 검색을 수행하는 임베딩 기반 검색 기법입니다.

NAVINDEX

LLM이 문서의 전체 조항으로 구성된 압축된 구조적 인덱스 지도를 먼저 탐색한 후, 답변에 필요한 구체적 섹션만을 선택적으로 호출하여 컨텍스트를 구성하는 네비게이션 기반 검색 기법입니다.

구조 인식 분할(Structure-aware chunking)

법률 문서의 장(Chapter), 조(Article), 항(Section), 호(Paragraph) 등 계층적 목차 구조를 파악하고, 이 논리적 단위를 보존하며 텍스트를 분할하는 전처리 기술입니다.

기술 심층 분석

1

컨텍스트 주입(Injection)의 한계와 정보 밀도 저하 메커니즘

전체 문서를 LLM의 컨텍스트 윈도우에 직접 주입하는 방식은 단기적으로 검색 누락을 방지하는 가장 단순한 해결책으로 여겨졌습니다. 그러나 트랜스포머 아키텍처의 어텐션 메커니즘은 입력 시퀀스 길이의 제곱에 비례하는 연산 복잡도를 가지므로, 대규모 거래 문서 주입은 심각한 레이턴시와 비용을 초래합니다. 더욱이, 어텐션 가중치가 전체 컨텍스트에 분산되면서 정작 답변에 핵심적인 조항의 정보 밀도가 희석되는 현상이 발생합니다. 이는 모델이 질문과 무관한 노이즈 조항에 집중하게 만들거나, 계약서 후반부의 예외 조항을 무시하고 답변을 생성하는 무결성 결함으로 이어집니다. 따라서 무조건적인 컨텍스트 확장은 리걸 AI의 신뢰성을 담보하지 못하며, 토큰 효율성을 극대화하는 지능형 필터링 아키텍처가 필수적입니다.

2

NAVEMBED의 구조 인식 분할 및 재순위화 파이프라인

NAVEMBED 기법은 단순 토큰 수 기준 분할의 한계를 극복하기 위해 법률 문서의 파싱 단계에서부터 계층적 메타데이터를 추출합니다. 계약서의 정의 조항, 본문 조항, 별첨 문서 간의 상호 참조 링크를 그래프 구조로 매핑하고, 이를 기반으로 청크를 생성하여 의미적 단절을 원천 차단합니다. 검색 단계에서는 1차적으로 조밀 벡터(Dense Vector) 유사도 검색을 통해 후보 청크 군을 획득한 후, 교차 인코더(Cross-Encoder) 기반의 재순위화(Reranking) 모델을 통과시켜 질문과의 법률적 정합성을 재평가합니다. 이 과정을 통해 전체 문서 주입 방식 대비 입력 토큰 소모량을 최소 17.3배에서 최대 29.9배까지 절감하면서도, 핵심 법률 추론에 필요한 맥락 정보를 완벽하게 보존하는 고효율 파이프라인을 실현합니다.

3

NAVINDEX의 에이전틱 네비게이션 메커니즘과 상태 기계 설계

NAVINDEX는 LLM을 단순한 수동적 수신기가 아닌, 문서를 능동적으로 탐색하는 에이전트로 활용합니다. 시스템은 먼저 문서의 전체 조항 제목과 요약으로 구성된 압축 인덱스(Index Map)를 생성하여 LLM에 제공합니다. LLM은 이 지도를 분석하여 질문에 답하기 위해 조회해야 할 최적의 조항 ID 목록을 결정하는 네비게이션(Navigation) 추론 단계를 거칩니다. 이후 시스템은 LLM이 지목한 구체적인 세부 조항 본문만을 동적으로 로드하여 최종 답변 생성 컨텍스트를 구성합니다. 이 방식은 전체 주입 방식과 대등한 수준의 정확도를 유지하면서도, 불필요한 텍스트 로드를 배제하여 답변 컨텍스트 크기를 약 56배 축소하고 총 토큰 사용량을 1.61배 절감하는 고도의 최적화를 달성합니다.

4

조항 간 상호 참조(Cross-Referencing) 해결의 한계와 동적 그래프 확장 대안

NAVINDEX와 NAVEMBED가 직면하는 가장 까다로운 한계는 법률 문서 특유의 복잡한 상호 참조 구조입니다. 예를 들어 '제12조 제3항에도 불구하고, 제5조 제1항에 정의된 바에 따른다'와 같은 조항은 단일 청크나 단순 인덱스 탐색만으로는 온전한 의미를 해석할 수 없습니다. 네비게이션 모델이 참조 대상 조항을 누락할 경우, AI는 완전히 왜곡된 법률 해석을 내놓게 됩니다. 이를 해결하기 위해 단순한 1차원 인덱스 탐색을 넘어, 상호 참조 관계를 유향 그래프(Directed Graph)로 모델링하고 LLM이 특정 조항을 선택했을 때 참조 관계에 있는 인접 노드들을 동적으로 함께 로드하는 '참조 그래프 확장(Reference Graph Expansion)' 기법을 도입해야만 검색 무결성을 비로소 완성할 수 있습니다.

기술적 트레이드오프

긴장 관계 검색 누락을 방지하기 위한 컨텍스트의 포괄성(Completeness)과 토큰 소모 및 추론 속도를 최적화하기 위한 컨텍스트의 압축성(Compactness) 사이의 긴장입니다. 문서를 넓게 가져갈수록 비용과 레이턴시가 상승하고, 좁게 가져갈수록 상호 참조 누락으로 인한 법률적 오류 발생 가능성이 커집니다.

실무적 해소 우리는 질문의 복잡도와 계약서의 구조적 밀도를 실시간으로 평가하는 동적 라우터를 도입하여 이 긴장을 해결합니다. 단순 사실 확인 질의에는 NAVINDEX를 적용하여 비용을 극대화하여 절감하고, 다중 조항의 종합적 해석이 필요한 복잡한 질의에는 참조 그래프 기반의 NAVEMBED 확장을 실행하여 무결성을 보장하는 이중화 전략을 취합니다.

법마디 OS에 적용한다면

법마디 OS의 계약서 분석 엔진에 NAVINDEX 및 NAVEMBED의 하이브리드 아키텍처를 'Lawmadi Nav-RAG' 모듈로 이식할 계획입니다. 우선 업로드된 계약서 PDF를 정교하게 파싱하여 장, 조, 항 단위의 XML/JSON 트리 구조로 정형화하는 작업을 선행합니다. 각 파싱 노드에는 고유한 식별 주소 체계(URI)를 부여하여 상호 참조 관계를 명확히 기록합니다. 사용자의 질의가 인입되면, 시스템은 1차적으로 계약서의 목차 구조와 핵심 정의어 사전으로 구성된 '라이트웨이트 토폴로지 맵'을 LLM에 전달합니다. LLM은 이 맵을 기반으로 질문 해결에 필요한 핵심 조항의 위치를 탐색하는 기획 단계를 수행합니다. 기획된 경로에 따라 백엔드 엔진은 해당 조항 노드와 연관 참조 노드들을 그래프 데이터베이스에서 즉시 인출합니다. 인출된 최소한의 정밀 컨텍스트만을 LLM에 최종 주입하여 법률적 답변을 도출하게 만듭니다. 이러한 구조적 탐색 루프를 통해 기존 대비 토큰 비용을 70% 이상 절감하면서도 분석의 정확도를 비약적으로 끌어올릴 수 있습니다.

기술적 함의

"가장 우아한 리걸 AI는 모든 문서를 읽는 모델이 아니라, 구조적 통찰을 통해 읽어야 할 단 하나의 조항을 정확히 찾아내는 모델입니다."

참고 자료

칼럼니스트

지유

지유

최고기술책임자 (CTO · Chief Technology Officer)

실리콘밸리 유니콘 창업 멤버급 / AI 무결성 검증 분야 세계적 석학급

법마디 OS 무료로 경험하기
본 칼럼은 법마디 OS 기술팀의 관점이며, 특정 제품·기술에 대한 보증이나 법률 자문이 아닙니다.