확인의 단위가 인용 한 줄로 내려온다 | 법마디(Lawmadi) OS 전략칼럼

초록 법률 AI를 둘러싼 규율은 지금까지 대체로 '도구를 어떻게 쓸 것인가' 의 층위에서 논의됐습니다. 그런데 이번 달 캘리포니아에서 심의 중인 법안과 두 편의 실무 기고를 겹쳐 읽으면 다른 움직임이 보입니다. 확인의 단위가 문서에서 인용 한 줄로 내려오고, 그 확인을 이행할 주체가 도구나 조직이 아니라 서류를 제출한 사람 개인으로 지정되며, 감사가 요구하는 기록은 사후에 모으는 로그가 아니라 설계 시점에 심어 두는 속성으로 옮겨 갑니다. 세 움직임은 같은 방향을 가리킵니다. 신뢰가 산출물 전체에 한 번 붙던 것에서, 구성 요소마다 붙는 것으로 잘게 쪼개지고 있다는 것입니다.

캘리포니아주 의회는 2025-2026 회기를 8월 31일에 마감합니다. 그 직전까지 살아 있는 법안 가운데 법률 AI와 직접 맞닿은 것이 SB 574입니다. 2026년 8월 21일 하원 수정본 기준으로 이 법안은 Business and Professions Code에 제6068.1조를 신설해 변호사가 생성형 인공지능에 법률사무를 위임하지 못하도록 하고, 생성형 인공지능을 보조적으로 쓰는 변호사에게 비공개 정보 입력 금지와 산출물 정확성 확인, 오류·환각 산출물의 정정을 요구합니다. 여기까지는 이미 여러 곳에서 논의된 내용입니다. 그런데 같은 법안은 민사소송법 쪽도 함께 고쳐, 법원에 제출되는 준비서면·소장·신청서 그 밖의 서류에 제출을 책임지는 변호사가 직접 확인하지 않은 인용을 담지 못하도록 하고 생성형 인공지능이 제공한 인용도 그 대상에 명시적으로 포함시킵니다. 이 한 문장이 이 글의 출발점입니다. 의무의 단위가 '문서를 성실히 작성했는가' 에서 '이 인용을 네가 직접 확인했는가' 로 내려왔기 때문입니다. 아직 법이 아니고 통과 여부도 정해지지 않았지만, 규범이 어느 방향으로 내려오는지를 이보다 분명하게 보여 주는 문장은 드뭅니다.

핵심 개념 정의

개인적 확인 의무

확인의 이행 주체를 조직이나 도구가 아니라 서류를 제출하는 사람 개인으로 지정하는 규범 형식입니다. SB 574 법안은 제출을 책임지는 변호사가 직접 확인하지 않은 인용을 서류에 담지 못하게 하고, 생성형 인공지능이 제공한 인용을 그 대상에 명시합니다. 도구의 품질이 아무리 올라가도 이 의무는 도구로 이전되지 않습니다.

현존과 통제의 구분

사람이 절차 안에 있다는 사실과, 그 사람이 실제로 무엇을 막고 있다는 사실을 나누는 개념입니다. Same Facts, Different Answer(Artificial Lawyer, 2026-08-26)는 최근 문제가 된 환각 인용 사건 대부분에 이미 사람이 있었다고 지적하면서, 현존은 통제가 아니라고 씁니다. 통제란 무엇을 확인해야 하는지 정하고, 확인했다는 사실을 증거로 남기며, 확인 전에는 다음 단계로 넘어가지 못하게 막는 것이라는 정의가 이어집니다.

설계된 귀속

행위의 책임을 사후에 재구성하는 대신 시스템 설계 안에 미리 심어 두는 접근입니다. Accountability by Design in Agentic Contract Management(Artificial Lawyer, 2026-08-27)는 에이전트가 행위한 뒤에 모아 만든 감사를 '고고학' 이라고 부르며, 증거로 쓰일 것을 전제하지 않고 남은 기록은 얇다고 지적합니다. 그리고 필요한 순서를 인식·추적·기록으로 제시합니다.

결정론 계층

같은 입력에 같은 출력을 돌려주고 그 경로를 인쇄해 보여 줄 수 있는 처리 계층입니다. 확률적 모델이 읽고 분류하는 일을 맡고, 결과를 좌우하는 판정은 이 계층이 맡는 분업을 뜻합니다. 재현 가능성이 이 계층의 부수 효과라면, 이 글에서 더 중요한 것은 확인의 단위를 잘게 나눌 수 있다는 점입니다. 한 줄의 인용마다 무엇을 근거로 통과시켰는지 남길 수 있는 자리가 여기입니다.

전략적 관점

의무는 문서가 아니라 인용에 붙는다

지금까지 서면에 붙는 책임은 문서 단위였습니다. 서명은 문서 전체에 대한 보증이고, 그 안의 개별 인용은 성실 의무라는 큰 우산 아래 있었습니다. SB 574 법안이 바꾸려는 것은 그 우산의 크기가 아니라 우산이 덮는 단위입니다. 법원에 제출되는 어떤 서류도 제출을 책임지는 변호사가 직접 확인하지 않은 인용을 담아서는 안 되고, 생성형 인공지능이 제공한 인용도 예외가 아니라고 적시합니다. 단위가 내려오면 세 가지가 함께 바뀝니다. 첫째, 이행의 증명 방식이 바뀝니다. 문서 단위 의무는 '성실히 검토했다' 는 진술로 이행을 주장할 수 있지만, 인용 단위 의무는 어느 인용을 무엇과 대조했는지를 말해야 합니다. 둘째, 실패의 크기가 바뀝니다. 문서 하나가 통째로 부실한 것이 아니라 인용 한 줄이 실재하지 않는 것만으로 위반이 성립합니다. 셋째, 도구의 역할이 바뀝니다. 좋은 초안을 빠르게 만드는 능력은 이 의무를 덜어 주지 못하고, 오히려 확인해야 할 인용의 수를 늘립니다. 생산성이 올라갈수록 확인 부채가 함께 쌓이는 구조입니다.

사람이 옆에 있었다는 사실은 아무것도 막지 못했다

환각 인용이 법원에서 문제가 될 때마다 되풀이되는 해명이 있습니다. 사람이 검토했다는 것입니다. Same Facts, Different Answer는 이 해명의 구조를 정면으로 겨냥합니다. 문제가 된 사건들에는 이미 사람이 있었고, 그럼에도 잘못된 인용이 그대로 나갔다는 것입니다. 이 기고가 제시하는 통제의 정의는 셋으로 되어 있습니다. 무엇을 확인해야 하는지 말하고, 확인했다는 사실을 증거로 남기며, 확인이 끝나기 전에는 다음 단계로 넘어가지 못하게 막는 것입니다. 세 요건 가운데 앞의 둘만 갖춘 체계는 흔합니다. 체크리스트가 있고 검토 기록도 남습니다. 그러나 마지막 요건, 즉 통과하지 못하면 멈춘다는 성질이 없으면 나머지 둘은 사후 변명의 재료가 됩니다. 이 기고가 벤더의 스폰서 기고라는 점은 밝혀 두는 편이 정직합니다. 자사의 규칙 엔진을 파는 글입니다. 그러나 통제의 정의 자체는 제품과 무관하게 성립하고, 실제로 이 정의를 우리 시스템에 대 보면 무엇이 통제이고 무엇이 절차의 장식인지가 곧바로 갈립니다. 그 판정을 스스로에게 먼저 적용하지 않는 주장은 신뢰할 이유가 없습니다.

사후에 모은 감사는 고고학이다

확인의 단위가 내려오면 기록의 요구도 함께 내려옵니다. Accountability by Design in Agentic Contract Management는 계약 업무에 에이전트가 들어올 때 생기는 공백을 이렇게 정리합니다. 에이전트의 작업은 끊기지 않는 행위의 흐름이고, 그 흐름 안에서는 빈칸을 채우는 일과 책임 상한을 받아들이는 일이 똑같이 한 단계로 보인다는 것입니다. 그래서 필요한 순서를 인식·추적·기록으로 제시합니다. 먼저 단계와 결정을 구분할 수 있어야 하고, 각 결정이 어떤 권한 아래에서 어떤 정보를 근거로 이루어졌는지 추적할 수 있어야 하며, 그렇게 추적된 결정이 사람이 책임질 수 있는 지속적인 기록으로 쌓여야 한다는 것입니다. 이 글에서 가장 날카로운 문장은 사후 감사에 대한 것입니다. 에이전트가 행위한 뒤에 조립한 감사는 고고학이며, 증거로 쓰일 것을 전제하지 않고 우연히 살아남은 흔적으로 이야기를 재구성하는 일이라는 것입니다. 이 글 역시 벤더의 스폰서 기고입니다. 그럼에도 진단은 우리 쪽 설계 언어로 그대로 번역됩니다. 확인 기록은 나중에 붙일 수 있는 문서가 아니라, 확인이 일어나는 그 자리에서 함께 생성되지 않으면 존재하지 않는 것과 같습니다.

정의가 비어 있는 금지는 시장을 좁히는 대신 증명 부담을 옮긴다

SB 574 법안의 다른 조항, 즉 변호사가 생성형 인공지능에 법률사무를 위임해서는 안 된다는 규정은 성격이 다릅니다. California SB 574(Artificial Lawyer, 2026-08-26)는 이 조항이 감독을 전제로 한 다른 규정들과 달리 위임 자체를 허용하지 않는 형태라고 지적하면서, 그렇다면 '법률사무' 와 '위임' 이 무엇인지가 결정적인데 캘리포니아 법원이 백 년 가까이 씨름해 온 개념이라고 적습니다. 이 기고는 사무실 업무를 하나씩 대입해 그 경계가 얼마나 흐린지를 보여 줍니다. 접수 소프트웨어를 쓰는 것과 보조원이 접수를 하는 것, 초안을 사람이 쓰는 것과 서식 기반 소프트웨어가 만드는 것 사이 어디에 선을 그을지가 판례로도 정리되지 않았다는 것입니다. 정의가 비어 있는 금지 규정은 대개 시장을 좁히지 않습니다. 대신 증명의 부담을 옮깁니다. 금지 대상이 불분명할수록, 문제가 생겼을 때 '이것은 위임이 아니라 보조였다' 를 보여 줄 책임이 사용자와 공급자 쪽에 쌓입니다. 그 증명을 가능하게 하는 것은 선언이 아니라 기록입니다. 어느 판단을 사람이 했고 어느 단계가 기계의 산출이었는지가 남아 있어야 위임이 아니었음을 말할 수 있습니다.

한국에서 이 단위가 실제로 성립하는 이유

확인의 단위를 인용 한 줄까지 내리려면 대조할 정본이 기계적으로 열려 있어야 합니다. 이 조건이 모든 관할에서 성립하지는 않습니다. 한국은 국가법령정보센터가 법령 본문을 조회 가능한 형태로 제공하므로, 답변이 인용한 조문이 실재하는지, 그 법이 지금도 시행 중인지를 조문 단위로 대조하는 절차를 실제로 돌릴 수 있습니다. 법마디가 운영하는 인용 검증 계층이 그 자리에 있습니다. 이 계층은 확률적 판정을 쓰지 않습니다. 언어 모델이 답을 쓰더라도 인용의 통과 여부는 원문 대조로 정하고, 확인되지 않은 인용은 통과시키지 않습니다. 검증기에 모델을 넣지 않기로 한 결정은 성능 판단이 아니라 단위의 문제였습니다. 판정하는 쪽이 확률적이면 같은 인용이 어제와 오늘 다르게 판정될 수 있고, 그러면 '이 한 줄을 무엇으로 확인했는가' 라는 질문에 답할 수 없기 때문입니다. 동시에 아직 갖지 못한 것도 분명히 적어 둡니다. 이 절차가 제대로 도는지를 바깥에서 확인하게 하는 제3자 감사는 아직 없고, 지금 공개할 수 있는 것은 절차의 구조와 판정 기록뿐입니다.

반론과 재반박

예상 반론 인용 단위 확인은 이상적이지만 비용이 감당되지 않는다. 서면 한 건에 수십 개의 인용이 붙고, 그 전부를 원문과 대조하라는 요구는 결국 생성형 도구가 만든 생산성을 그대로 반납하라는 말이다. 게다가 캘리포니아 법안은 아직 통과되지 않았고, 통과된다 해도 한 주의 규범일 뿐이다. 한국의 사업자가 이것을 기준으로 제품을 설계할 이유가 있는가.

재반박 비용 지적은 정확하고, 그래서 이 요구는 사람이 아니라 절차가 흡수해야 합니다. 인용 단위 확인이 사람의 눈으로만 이루어지면 지적대로 생산성은 반납됩니다. 반대로 확인이 기계적 대조로 자동화되고 그 판정 기록이 함께 남으면, 늘어난 인용 수는 부담이 아니라 처리량의 문제가 됩니다. 법안이 아직 통과되지 않았다는 지적도 맞습니다. 다만 이 글이 근거로 삼는 것은 법의 효력이 아니라 규범이 내려오는 방향입니다. 문서에서 인용으로, 조직에서 개인으로 내려오는 움직임은 한 주의 입법 결과와 무관하게 이미 감사와 조달 문서에서 같은 형태로 나타나고 있고, 그 질문에 답할 수 있는 쪽이 먼저 도착합니다.

법마디 OS가 그리는 미래

앞으로 몇 년 동안 법률 AI의 규율은 두 방향으로 동시에 내려올 것입니다. 하나는 단위입니다. 문서에 한 번 붙던 보증이 인용과 판단 단위로 잘게 나뉘고, 그에 따라 요구되는 증거도 진술에서 대조 기록으로 바뀝니다. 다른 하나는 주체입니다. 도구가 좋아질수록 규범은 오히려 도구가 아니라 그것을 써서 무언가를 제출한 사람을 지목하는 쪽으로 분명해집니다. 두 방향이 만나는 지점에서 시장의 질문도 바뀝니다. 지금까지 구매자가 물어 온 것은 이 도구가 얼마나 잘하느냐였습니다. 앞으로 물을 것은 이 답의 어느 부분이 추정이고 어느 부분이 확인이냐, 확인하지 못했을 때 이 시스템은 무엇을 했느냐입니다. 뒤의 질문에 답하려면 제품 안에 경계선이 그어져 있어야 합니다. 경계가 없는 제품은 좋은 답을 낼 수는 있어도 그 답의 어느 부분을 책임질 수 있는지 말하지 못합니다. 우리가 준비하는 자리는 그래서 분명합니다. 답을 더 잘 쓰는 경쟁이 아니라, 답 안에서 확인된 부분과 확인되지 않은 부분을 갈라 보여 줄 수 있는 쪽에 서 있는 것입니다.

전략적 함의

제품의 최소 단위를 답변에서 인용으로 내린다. 무엇을 답했는가가 아니라 그 답 안의 인용 하나하나를 무엇과 대조해 통과시켰는지가 기록의 기본 단위여야 한다.
확인 절차에 '멈춤' 을 넣는다. 확인하지 못한 인용을 표시만 하고 내보내는 것과, 내보내지 않는 것은 같은 지표 아래에서도 전혀 다른 제품이다. 통제는 막을 때에만 통제다.
귀속을 설계 시점에 심는다. 어느 판단이 사람의 것이고 어느 단계가 기계의 산출이었는지를 사후에 재구성하지 않도록, 그 구분을 만드는 자리에서 함께 기록한다.

"확인의 단위가 내려오면, 팔아야 하는 것도 함께 내려옵니다. 문서가 아니라 한 줄입니다."

참고 자료

칼럼니스트

서연

최고전략책임자 (CSO · Chief Strategy Officer)

미국 연방대법원 로클럭 출신급 / 글로벌 Top3 전략 컨설팅 파트너급

법마디 OS 무료로 경험하기

본 칼럼은 법마디 OS 전략팀의 관점이며, 투자 권유나 법률 자문이 아닙니다.