GRASP: 에이전트형 RAG의 다단계 입도 제어 정책

초록 에이전트형 RAG는 다단계 법률 추론의 정밀성을 높이는 핵심 아키텍처로 부상했으나, 고정된 검색 방식과 불필요한 컨텍스트 유입으로 인한 노이즈 문제는 여전히 해결되지 않았습니다. 본 칼럼에서는 에이전트가 강화학습을 통해 어휘적·의미적 검색 도구를 적응적으로 선택하고, 정보의 입도(Granularity)를 문장, 단락, 엔티티 수준으로 동적 제어하는 GRASP(Granularity-Aware Search Policy) 프레임워크의 메커니즘을 규명합니다. 이를 통해 컨텍스트 윈도우 내 정보 밀도를 극대화하고 에이전트의 추론 방해 요소를 차단하는 수학적·구조적 해법을 제시하며, 리걸 에이전트의 판단 무결성을 확보할 수 있는 시스템 설계적 방향성을 도출합니다.

복잡한 대법원 판례의 쟁점을 분석하는 리걸 에이전트를 설계할 때, 개발자는 심각한 딜레마에 직면합니다. 에이전트가 특정 조항의 요건을 확인하기 위해 검색을 수행할 때, 법조문 전체를 컨텍스트에 주입하면 불필요한 예외 조항과 참조 조항이 섞여 LLM의 주의 메커니즘(Attention Mechanism)을 교란합니다. 반대로 지나치게 압축된 핵심 구절만 전달하면, 법적 해석의 전제가 되는 맥락이 누락되어 치명적인 추론 왜곡이 발생합니다. 정적인 RAG 아키텍처는 이러한 정보의 입도(Granularity) 편차를 유연하게 대응하지 못하며, 이는 곧 에이전트의 의사결정 경로를 오염시키는 주원인이 됩니다. 따라서 에이전트 스스로가 현재 추론 단계에 가장 적합한 정보의 세밀함을 판단하고 검색 도구를 선택하는 동적 검색 정책의 확립이 필수적입니다.

핵심 기술 개념

Agentic RAG (에이전트형 검색증강생성)

단순히 쿼리를 던져 문서를 받아오는 정적 RAG를 넘어, LLM이 스스로 추론 루프(ReAct 등) 내에서 검색 도구 호출 여부, 쿼리 생성, 중간 결과 평가를 자율적으로 결정하는 능동형 아키텍처입니다.

Granularity Control (입도 제어)

검색된 컨텍스트 데이터를 시스템에 전달할 때, 문서 단위(Document-level)부터 단락(Paragraph), 문장(Sentence), 혹은 특정 엔티티(Entity) 수준까지 정보의 밀도와 범위를 동적으로 조절하는 기술적 메커니즘입니다.

기술 심층 분석

1

적응형 검색 도구 조정의 메커니즘

GRASP 프레임워크의 핵심은 에이전트가 고정된 결정론적 규칙(Heuristics)에 의존하지 않고, 강화학습(RL)을 통해 실시간으로 검색 도구를 선택한다는 점입니다. 에이전트는 현재의 추론 상태(State)를 기반으로 키워드 기반의 어휘 매칭(BM25 등)과 고차원 벡터 기반의 의미론적 유사도 검색(Semantic Search) 중 어떤 도구가 최적의 정보 획득 경로인지를 판단합니다. 예를 들어, 구체적인 법령 번호나 고유 명사를 추적해야 하는 단계에서는 어휘 검색 도구의 가중치를 높이고, 포괄적인 판례의 법리적 흐름을 파악해야 할 때는 의미론적 검색 도구를 호출하는 정책(Policy)을 학습합니다. 이러한 동적 도구 선택은 검색 쿼리의 중복을 방지하고 불필요한 API 호출 비용을 절감하는 동시에, 에이전트가 중간 추론 단계에서 올바른 증거 궤적을 밟아나가도록 돕는 인프라적 기반이 됩니다.

2

다단계 입도 제어(Granularity Control)의 수리적 구조

검색된 정보의 입도를 제어하는 원리는 컨텍스트 내 노이즈 대 신호비(Signal-to-Noise Ratio)를 극대화하는 방향으로 설계됩니다. GRASP는 검색 엔진이 반환한 원본 문서 세트에서 에이전트의 현재 질의에 가장 부합하는 최소 의미 단위(Minimal Semantic Unit)를 추출합니다. 이 과정에서 텍스트는 계층적 트리 구조(Hierarchical Tree Structure)로 파싱되며, 각 노드는 문서, 단락, 문장, 토큰 시퀀스 수준의 입도를 대변합니다. 에이전트의 검색 정책 네트워크는 이 트리에서 최적의 깊이(Depth)를 탐색하여, 주의 집중(Attention) 손실을 최소화할 수 있는 최적의 세밀함을 선택합니다. 결과적으로 수만 토큰에 달하는 판결문 원문 대신, 쟁점과 직접적으로 결합된 단 세 문장의 핵심 판시사항만을 컨텍스트 윈도우에 정밀하게 주입함으로써 모델의 바늘 찾기(Needle in a Haystack) 성능을 극대화합니다.

3

강화학습 기반 검색 정책(Search Policy)의 보상 함수 설계

에이전트가 최적의 검색 시점과 입도를 학습하도록 유도하기 위해서는 다목적 보상 함수(Multi-Objective Reward Function)의 정밀한 설계가 요구됩니다. GRASP의 보상 신호는 최종 답변의 정확성(Accuracy Reward)뿐만 아니라, 검색 횟수에 따른 패널티(Efficiency Penalty), 그리고 주입된 컨텍스트의 무관한 토큰 비율에 비례하는 노이즈 패널티(Redundancy Penalty)를 결합하여 구성됩니다. 만약 에이전트가 무분별하게 넓은 범위의 문서를 가져오면 노이즈 패널티가 크게 부여되어, 다음 에이전트 에피소드에서는 더 좁고 정밀한 입도를 선택하도록 정책 네트워크가 업데이트됩니다. 이러한 보상 최적화 과정을 통해 에이전트는 최소한의 검색 동작과 가장 정제된 텍스트 청크만을 사용하면서도 정답에 도달하는 최적의 추론 경로를 자율적으로 수렴하게 됩니다.

4

다단계 질문-답변 시나리오에서의 오류 전파 한계와 대안

GRASP가 해결하고자 하는 가장 까다로운 한계는 다단계 추론 과정에서 이전 단계의 잘못된 검색 결과가 누적되어 전체 추론 체인을 망가뜨리는 '오류 전파(Error Propagation)' 현상입니다. 1단계에서 잘못된 입도의 정보를 수집하면 2단계 쿼리 생성과 검색 도구 선택 역시 왜곡되는 악순환이 발생합니다. 이를 극복하기 위해 GRASP는 단순 순방향 정책 제어를 넘어, 각 추론 노드에서 정보의 신뢰도를 역방향으로 평가하는 백트래킹(Backtracking) 메커니즘을 대안으로 제시합니다. 즉, 현재 단계에서 획득한 정보의 정합성 점수가 임계치 이하로 떨어질 경우, 이전 단계로 되돌아가 검색 입도를 한 단계 넓히거나(Coarser Granularity) 다른 검색 도구를 재호출함으로써 추론의 무결성을 동적으로 복구하는 탄력적 구조를 완성합니다.

기술적 트레이드오프

긴장 관계 정보 입도를 극도로 좁히면 컨텍스트 노이즈가 최소화되어 추론 정확도가 올라가지만, 법률 문서 특유의 유기적 맥락(Contextual Flow)이 유실되어 해석의 오류가 발생할 위험이 커집니다. 반대로 입도를 넓히면 맥락은 보존되나 불필요한 정보가 대량 유입되어 모델의 주의력 저하와 비용 상승을 초래합니다.

실무적 해소 이 긴장을 해결하기 위해 GRASP는 '계층적 컨텍스트 제공 기법'을 채택합니다. 우선 가장 좁은 입도의 핵심 문장을 컨텍스트의 최상단에 배치하여 주의 집중을 유도하되, 해당 문장이 속한 상위 단락의 메타데이터 및 구조적 관계 정보(Parent-Child Relationship)를 압축된 토큰 형태로 함께 전달합니다. 이를 통해 모델은 연산 비용과 노이즈를 통제하면서도 필요한 경우 상위 맥락을 언제든 참조할 수 있는 완충 지대를 확보하게 됩니다.

법마디 OS에 적용한다면

Lawmadi OS의 현행 판례 분석 파이프라인에 GRASP의 적응형 입도 제어 아키텍처를 이식함으로써 다단계 법률 추론의 신뢰성을 획기적으로 개선할 수 있습니다. 구체적으로, 사용자의 복잡한 사실관계 질의가 입력되면 Lawmadi 에이전트는 먼저 사건의 핵심 키워드를 기반으로 1차 Sparse 검색을 수행하여 관련 판례군을 식별합니다. 이후 판례의 '이유(Rationale)' 섹션을 분석할 때, 고정된 크기의 청크 분할 대신 GRASP의 계층적 트리 파서를 적용하여 법리적 쟁점과 판시사항을 문장 단위로 분해합니다. 에이전트는 강화학습된 정책에 따라, 단순 사실관계 대조 단계에서는 넓은 입도(단락 수준)를 선택하고, 구체적인 위법성 조각사유 적용 단계에서는 좁은 입도(요건 단어 수준)를 동적으로 호출합니다. 이를 통해 Lawmadi OS는 컨텍스트 윈도우 낭비를 막고, 대규모 판결문 분석 시 발생하는 추론 왜곡률을 실질적으로 제어하는 무결성 가드레일을 확보하게 됩니다.

기술적 함의

에이전트형 RAG에서 정보의 세밀함(Granularity)을 통제하는 것이 LLM의 주의 집중 한계를 극복하는 핵심 열쇠임을 입증했습니다.
고정된 검색 규칙 대신 강화학습 기반의 적응형 검색 정책을 도입함으로써 리걸 AI의 운영 비용과 추론 효율성을 동시에 최적화할 수 있습니다.
다단계 법률 추론 시 발생하는 오류 전파 문제를 백트래킹과 동적 입도 조정을 통해 구조적으로 완화하는 경로를 제시했습니다.

"법률 AI의 무결성은 단순히 얼마나 많은 정보를 검색하느냐가 아니라, 현재 추론 단계에 꼭 필요한 만큼의 정보를 얼마나 정밀한 입도로 필터링하여 제공하느냐에 달려 있습니다."

참고 자료

칼럼니스트

지유

최고기술책임자 (CTO · Chief Technology Officer)

실리콘밸리 유니콘 창업 멤버급 / AI 무결성 검증 분야 세계적 석학급