규제 절차의 선언적 명세와 미학습 절차 전이 무결성
법률 규제 절차를 기계 판독형 명세로 구조화하여 단일 소형 정책 모델이 미학습 규제 흐름을 정확히 준수하도록 유도하는 아키텍처를 분석합니다.
초록 규제 산업의 법률 대화형 에이전트는 사용자의 의도를 만족시키는 것을 넘어 법률이 강제하는 엄격한 절차적 흐름을 준수해야 합니다. 채권추심 등 고도로 규제된 환경에서는 채무자 본인 확인 이전에 채무 사실을 발설하지 않는 것, 발화 주체와 채권자를 투명하게 고지하는 것과 같은 법적 의무 절차가 필수적입니다. 최근 발표된 arXiv:2610.18881 연구는 배포마다 하나씩 두는 기계 판독형 절차 명세 FlowSpec으로 9B 규모 자체 호스팅 정책 모델을 한 번 미세조정해, 학습 때 보지 못한 규제 절차에서 절차가 정한 점검 항목 통과율을 67~71%에서 93~100%로 끌어올렸다고 보고했습니다. 본 칼럼에서는 절차 명세를 통한 정책 지침 생성, 런타임 도구 게이팅, 감독 및 테스트 정의가 법률 에이전트의 절차적 무결성을 어떻게 보장하는지 아키텍처 관점에서 해부합니다. 나아가 프롬프트 의존형 규제 준수의 취약점과, 한 명세가 감독과 평가를 함께 만들 때 생기는 검증의 맹점까지 살핍니다. 이를 통해 절차적 흐름의 엄격성과 자연스러운 대화 유연성 사이의 본질적 긴장을 해소하는 공학적 방법론을 제시합니다.
금융 채권추심이나 형사 사법 절차와 같은 규제 영역에서 AI 에이전트가 저지르는 치명적 오류는 지식의 결핍보다 절차의 위반에서 비롯됩니다. 예컨대 채권추심 통화에서는 상대가 채무자 본인임을 확인하기 전에 채무를 언급해서는 안 되고, 추심 주체와 채권자를 밝히며 금지된 표현을 피해야 합니다(논문은 태국 채권추심 사례를 다룹니다). 그러나 범용 거대언어모델(LLM)에 프롬프트로 이러한 수칙을 주입하더라도, 사용자의 교묘한 유도 발화나 비선형적 대화 전개 속에서 모델은 본인 확인 절차를 건너뛰고 채무액을 먼저 언급하는 치명적인 위법을 저지르곤 합니다. 각 금융기관과 채권자마다 세부 절차 규정이 상이하고 규제 개정이 빈번하게 일어나는 현실에서, 매번 전체 모델을 미세조정(Fine-tuning)하는 방식은 비용과 시간 측면에서 지속 가능하지 않습니다. 최근 공개된 논문(arXiv:2610.18881)은 이 문제를 풀기 위해 '기계 판독형 절차 명세(FlowSpec)'를 제안하고, 소형 정책 모델이 학습 때 보지 못한 규제 절차에서도 절차 점검 항목을 대부분 통과하게 됐다고 보고했습니다. 절차를 모델 내부 가중치에 암묵적으로 각인시키는 대신, 명세를 통해 도구 접근을 제어하고 행동을 감독하는 구조적 접근이야말로 리걸테크 무결성의 새로운 돌파구입니다.
핵심 기술 개념
기계 판독형 절차 명세 (FlowSpec)
배포마다 하나씩 두는 기계 판독형 문서로, 정책 모델에 줄 지시문을 만들고 도구를 선언·차단하며 학습용 감독 경로와 평가 점검 항목까지 함께 정의합니다.
도구 게이팅 (Tool Gating)
에이전트가 특정 도구를 임의로 호출하지 못하도록, 선행 필수 조건이나 법적 절차가 완료된 상태에서만 API 접근 권한을 동적으로 개방하는 제어 기술입니다.
규제 절차 전이 (Regulated Procedure Transfer)
소형 정책 모델이 학습 단계에서 접하지 않은 새로운 규제 절차 명세를 런타임에 입력받아 규칙 위반 없이 대화를 완수하는 능력입니다.
기술 심층 분석
규제 절차의 선언적 구조화: FlowSpec 아키텍처의 원리와 상태 전이
법률이 강제하는 절차는 본질적으로 비결정론적 언어 생성이 아니라 엄격한 결정론적 유한 상태 기계(Finite State Machine)의 성격을 띱니다. arXiv:2610.18881에서 제안된 FlowSpec은 법적 절차를 상태 노드와 전이 조건, 그리고 금지 조항의 집합으로 정형화합니다. 예를 들어 채무 확인 대화에서 '본인 확인 미완료' 상태일 때 에이전트는 채무 내역 조회 도구나 채무 고지 발화 템플릿에 접근할 수 없습니다. 이 구조는 프롬프트 엔지니어링이 초래하는 확률적 탈락(probabilistic dropout) 문제를 선언적 제약으로 줄이려는 것입니다. 상태 전이는 오직 법적 요건을 충족하는 발화 이벤트나 사용자 응답 검증이 통과되었을 때만 트리거됩니다. 결과적으로 에이전트의 내부 정책은 자율적으로 대화 흐름을 창작하는 것이 아니라, 명세가 허용하는 경로 안에서 승인된 문장 목록(카탈로그)의 문장을 골라 말하는 역할로 한정됩니다. 이러한 명세 분리는 법률 규정이 개정될 때 모델 파라미터를 건드리지 않고 명세 문서를 갱신하는 것으로 대응할 수 있게 하려는 것입니다.
동적 도구 게이팅을 통한 런타임 법률 위반 원천 차단 메커니즘
전통적인 LLM 에이전트는 모든 사용 가능한 도구 목록을 시스템 프롬프트에 나열하고 모델의 판단에 따라 도구 호출 여부를 결정합니다. 그러나 이러한 방식은 사용자가 적대적 프롬프트나 우회적 질문을 던질 때 에이전트가 본인 확인 전에 민감 정보를 호출하는 취약점을 드러냅니다. FlowSpec 기반의 도구 게이팅 메커니즘은 에이전트의 현재 대화 상태를 지속적으로 모니터링하여, 법적 선행 조건이 충족되지 않은 상태에서는 민감 API 엔드포인트를 모델의 컨텍스트에서 완전히 격리합니다. 채무자 신원 확인 절차가 상태 기계상 '승인' 상태로 전이되기 전까지는 '채무액_조회()'나 '계좌_전송()' 같은 도구 자체가 호출 불가능한 상태로 묶입니다. 모델이 임의로 환각을 일으켜 비인가 도구를 실행하려 하더라도 런타임 인터셉터가 이를 물리적으로 거부합니다. 이는 언어 모델의 확률적 불확실성에 의존하지 않고, 인프라 계층에서 법률상 금지 행위를 강제 집행하는 심층 방어(Defense in Depth) 구조를 형성합니다.
소형 정책 모델의 제로샷 절차 일반화와 단일 훈련 전략
매 규제 시나리오마다 대형 모델을 파인튜닝하는 것은 온프레미스 인프라를 운영해야 하는 규제 기관이나 로펌에게 막대한 컴퓨팅 비용을 유발합니다. arXiv:2610.18881의 핵심 기여는 단일 소형 정책 모델을 한 번만 학습시켜 이전에 보지 못한 규제 절차를 따르게 할 수 있는지를 실측한 데 있습니다. 연구팀은 무작위로 생성한 절차 297개에서 나온 대화 2,506건으로 Qwen3.5-9B 모델을 LoRA 방식으로 한 번 미세조정하고, 학습에 없던 배포 절차 네 개(채권추심 셋·비추심 하나, 그중 하나는 계열 전체를 학습에서 뺀 것)로 평가했습니다. 절차가 정해 주는 점검 항목 통과율은 67~71%에서 93~100%로, 시나리오 통과는 43개 중 15개에서 40개로 올랐습니다. 다만 연구진은 이 결과를 모델이 '절차'라는 추상 개념을 익혔다는 증거가 아니라 측정된 행동의 분해로 읽어야 한다고 못박습니다. 또 학습하지 않은 27B 모델이 이미 43개 중 37개를 통과했으므로, 이번 학습은 고객사 하드웨어(40GB 가속기 한 장) 제약 안에서 9B 모델을 끌어올린 것이고 모델 크기에 따른 효과는 확인하지 않았다고 밝힙니다.
절차적 테스트베드 자동 생성과 연속적 무결성 감사
규제 준수 에이전트의 배포에서 가장 큰 병목은 해당 절차가 모든 예외 상황에서도 법을 어기지 않는지 검증하는 테스트 케이스의 부족입니다. FlowSpec은 런타임 제어에 그치지 않고 평가 점검 항목도 같은 명세에서 정의하며, 평가에 쓰는 고객 쪽 발화도 그 절차의 사건 그래프에서 표본을 뽑아 시뮬레이션합니다. 테스트가 명세와 같은 원천에서 나오므로 절차가 바뀌면 테스트도 함께 바뀐다는 장점이 있습니다. 그러나 논문이 가장 공들여 짚는 것은 그 반대편입니다. 한 명세가 감독과 평가 기준을 함께 만들면 명세의 결함이 양쪽에 똑같이 들어가, 정책이 의도된 행동을 어기면서도 만점을 받을 수 있습니다. 실제로 공유 명세를 감사하자 결함 11건이 나왔고 그중 3건은 명세에서 파생된 지표로는 드러나지 않았습니다. 시뮬레이션 고객도 명세가 만든 분포라서 실제 고객 대화에서의 성능을 보장하지 않는다고 연구진은 밝힙니다. 명세에서 나온 테스트의 초록불은 명세 자체를 따로 감사할 때에만 의미가 있습니다.
기술적 트레이드오프
긴장 관계 규제 절차의 기계적 강제성을 높일수록 사용자의 불규칙한 질문이나 감정적 호소에 유연하게 대처하는 자연스러운 대화 유창성이 심각하게 저하됩니다. 반대로 대화의 자연스러움과 유연성을 확장하면 에이전트가 필수 고지 절차를 누락하거나 금지 발화를 내뱉을 확률적 위험이 증가합니다.
실무적 해소 대화 흐름의 상태 추적기와 자연어 생성기를 계층적으로 분리하여 절충점을 도출합니다. 상태 전이와 도구 접근 여부는 엄격한 결정론적 게이트가 통제하되, 각 상태에서 무엇을 말할지는 승인된 문장 목록 안에서 소형 정책 모델이 고르게 해 절차적 엄격성을 지키고, 유창성은 그 목록을 얼마나 넓고 자연스럽게 마련하느냐로 확보합니다. 논문의 에이전트도 승인된 카탈로그 문장만 말합니다.
이 주장이 틀리는 조건
반증 조건 사전 학습 데이터에 전혀 포함되지 않은 복합 법률 절차(예: 상가건물임대차보호법상 갱신거절 통지 및 권리금 회수 방해 고지 절차)를 FlowSpec 형태의 선언적 명세로 주입했을 때, 상태 기계가 유효하다고 판정한 경로 내에서도 모델이 법정 필수 고지 사항을 5%를 초과하는 빈도로 누락하거나 선행 확인 없이 민감 도구를 호출하는 현상이 벤치마크상 반복 측정된다면 이 선언적 명세 분리 가설은 기각됩니다. 또한 명세 파싱 오버헤드로 인해 소형 모델의 응답 지연 시간이 규제 없는 단일 프롬프트 모델 대비 200% 이상 급증하여 실시간 대화 파이프라인의 허용 임계치를 초과하는 것이 관측될 때 역시 본 설계의 실효성이 반증됩니다.
법마디 OS에 적용한다면
현재 법마디 OS는 60개 법률 분야별 AI 리더에게 질의를 배정하고, 다중 분야 얽힘 질문 시 CSO 서연이 주재하는 리더 협의를 거치며, law.go.kr API를 통해 판례와 조문 원문을 대조하여 미확인 인용을 배제하는 강력한 사실 검증 체계를 운영하고 있습니다. 그러나 현재 기능에서 리더들의 협의는 법적 무결성 검증 그 자체가 아니며 복합적인 법률 실무 절차(예: 파산신청 전 채무조정 절차 안내나 공탁금 출급 청구 절차)를 처리할 때 각 리더가 필수 절차적 요건을 순서대로 거치도록 통제하는 기계 판독형 절차 명세 계층은 아직 구축되지 않았습니다. 우리는 향후 법마디 OS의 추론 파이프라인에 arXiv:2610.18881의 FlowSpec 방법론을 벤치마크하여, 복합 사건 처리 시 각 리더 에이전트의 도구 호출을 제어하는 '절차 상태 게이트(Procedural State Gate)'의 도입을 검토하겠습니다. 구체적으로 나홀로 소송인이 제공하는 비정형 질의를 해석할 때, 필수 사실관계 확인 전에는 MCP 판례·조문 조회 도구의 광범위 검색을 일시 제한하고 요건 충족 단계별로 조문 확인 도구를 순차 개방하는 구조를 설계할 수 있습니다. 기업 내부 연동이나 리더 간 교차 감사는 여전히 제공하지 않지만, law.go.kr 원문 대조 전 단계에서 법률 절차 명세를 통한 사전 필터링을 구축한다면 리더 협의 과정의 절차적 탈락을 획기적으로 방지할 수 있을 것입니다. 이는 단순 인용 일치를 넘어 법률 절차의 진행 무결성까지 제도적으로 보장하는 차세대 법마디 OS의 핵심 로드맵이 될 것입니다.
기술적 함의
- 법률 AI의 안전성은 프롬프트의 지시어 정밀화가 아니라 기계 판독형 상태 명세와 런타임 인프라의 결합에서 나옵니다.
- 무작위 절차로 한 번 미세조정한 소형 모델이 학습에 없던 규제 절차의 점검 항목을 대부분 통과했지만, 명세가 감독과 평가를 함께 만들면 명세의 결함은 지표에 드러나지 않을 수 있습니다.
- 도구 게이팅을 통한 권한의 동적 격리는 적대적 탈옥 공격으로부터 규제 준수 에이전트를 보호하는 가장 확실한 방어선입니다.
"법을 집행하는 인텔리전스는 유려한 언변이 아니라 법률이 요구하는 절차적 궤적을 단 한 걸음도 어긋나지 않고 밟아나가는 구조적 엄격성에서 완성됩니다."
