메인으로
서연 · 최고전략책임자(CSO) · 오늘의 전략 칼럼

답을 팔지 않는 제품: 산출물이 책임을 나눈다

답을 주지 않고 판례만 돌려주는 리서치 제품이 등장했습니다. 무엇을 산출물로 내놓는가는 취향이 아니라, 검증 부담과 책임을 누구에게 남길지 정하는 전략적 선택입니다.

초록 법률 AI 시장은 오랫동안 '얼마나 좋은 답을 주는가'로 경쟁해 왔습니다. 그러나 최근 등장한 제품 하나는 정반대 방향을 택했습니다. 질문을 받되 답을 만들지 않고, 관련 판례와 핵심 구절만 돌려줍니다. 이 칼럼은 이 선택을 제품 취향의 문제가 아니라 책임 배분의 문제로 읽습니다. 답을 주는 순간 검증 부담은 사용자에게 넘어가고, 근거만 주는 순간 종합 부담이 사용자에게 남습니다. 법마디 OS가 답과 근거를 함께 내놓되 검증되지 않은 인용을 스스로 지우는 구조를 택한 이유도 여기에 있습니다.

리걸테크 매체 LawSites는 8월 3일, 거의 모든 주요 AI 법률 리서치 제품이 하나의 종합된 답변으로 수렴하는 흐름 속에서 정반대 방향의 제품이 출시됐다고 전했습니다. 소송 기술 회사 Align이 내놓은 Align Research는 평이한 문장으로 된 질문을 받아 몇 시간 뒤 관련 법원 판결문 묶음을 돌려주는데, 핵심 구절이 표시되어 있을 뿐 메모도 요약도 답도 없습니다. 언뜻 시대를 거스르는 설계처럼 보입니다. 그러나 저는 이 제품이 던지는 질문이 훨씬 근본적이라고 봅니다. 우리가 사용자에게 무엇을 건네주는지는 편의의 문제가 아니라, 틀렸을 때 누가 책임을 지는지를 정하는 문제이기 때문입니다. 산출물의 형태는 곧 신뢰의 배분 방식입니다.

핵심 개념 정의

산출물 형태(output form)

같은 분석 능력을 사용자에게 어떤 모양으로 건네는지에 관한 설계 선택입니다. 종합된 답변, 근거 자료 묶음, 검증 표시가 붙은 답변은 정확도가 같아도 사용자가 져야 할 확인 부담과 사후 책임의 위치가 서로 다릅니다.

검증 부담의 전가

시스템이 결론을 단정할수록 그 결론이 옳은지 확인할 책임이 사용자 쪽으로 넘어가는 현상입니다. 답변이 매끄러울수록 확인 동기는 줄어들기 때문에, 부담은 커지는 동시에 이행되지 않는 방향으로 움직입니다.

관심과 채택의 분리

제품을 살펴보는 행위와 업무에 반복적으로 쓰는 행위는 다른 사건입니다. 도입 검토가 늘어난 구간과 실제 사용이 자리 잡은 구간을 구분하지 않으면, 계절적 평가 주기를 수요의 구조적 전환으로 오독하게 됩니다.

전략적 관점

1

답은 편리하지만, 확인 의무를 조용히 떠넘긴다

종합된 답변은 사용자의 시간을 아껴 줍니다. 그러나 그 절약은 공짜가 아닙니다. 결론이 완결된 문장으로 도착하는 순간, 그것이 실재하는 근거 위에 서 있는지 확인할 책임은 전적으로 읽는 사람에게 넘어갑니다. 문제는 이 이전이 명시적으로 일어나지 않는다는 점입니다. 계약서에 적히지도 않고 화면에 고지되지도 않으며, 다만 답변이 자연스러울수록 확인하고 싶은 마음이 줄어드는 방식으로 작동합니다. 법률 영역에서 이 구조는 특히 위험합니다. 존재하지 않는 판결을 인용한 서면이 법원에 제출되어 제재로 이어진 사례들이 이미 여러 나라에서 보고되었고, 그 책임은 언제나 시스템이 아니라 제출한 사람에게 돌아갔습니다. Align이 답을 만들지 않기로 한 선택은 이 지점에 대한 하나의 대답입니다. 답을 주지 않으면 잘못된 답으로 사람을 오도할 수 없습니다. 대신 그 제품은 판례를 읽고 종합하는 노동을 사용자에게 그대로 남깁니다. 어느 쪽이 옳다기보다, 어느 쪽이든 부담은 사라지지 않고 위치만 바뀐다는 사실이 중요합니다. 설계자가 할 일은 그 위치를 우연에 맡기지 않는 것입니다.

2

근거만 주는 제품은 후퇴가 아니라 경계선의 재설정이다

판례만 돌려주는 제품을 보고 '기술이 아직 부족해서'라고 읽으면 핵심을 놓칩니다. 몇 시간에 걸쳐 탐색하고 핵심 구절을 짚어 표시하는 일은 이미 상당한 분석 능력을 요구합니다. 그 능력을 갖추고도 마지막 한 걸음, 즉 결론을 문장으로 만드는 단계를 의도적으로 비워 둔 것입니다. 이는 능력의 한계가 아니라 책임의 경계선을 어디에 그을지에 관한 선언입니다. 소송을 다루는 변호사에게 판단은 위임할 수 없는 직업적 핵심이며, 그 판단의 재료를 정확히 공급받는 것이 오히려 더 큰 가치일 수 있습니다. 실제로 법률 시장에서 오래 살아남은 도구들은 판단을 대신하기보다 판단의 재료를 정돈해 온 쪽이었습니다. 다만 이 설계에도 대가가 있습니다. 재료가 아무리 잘 정돈되어도 종합의 부담은 여전히 사람에게 있고, 시간이 부족한 실무자에게 그 부담은 곧 미사용으로 이어질 수 있습니다. 그래서 이 경계선은 최종 답이 아니라, 시장이 앞으로 여러 위치에서 실험하게 될 좌표 중 하나로 보아야 합니다.

3

제3의 위치: 답을 주되, 검증되지 않은 것은 스스로 지운다

답과 근거는 양자택일이 아닙니다. 세 번째 위치가 있습니다. 답을 만들되, 그 답에 담긴 법령과 판례를 시스템이 스스로 대조하고 확인되지 않은 인용은 사용자에게 닿기 전에 제거하는 구조입니다. 법마디 OS가 택한 방향이 이것입니다. 우리는 답변에 인용된 조문과 사건번호를 국가법령정보센터의 원문과 실시간으로 대조하고, 확인에 실패한 인용은 그 문장째 지운 뒤 무엇이 제거되었는지 이용자에게 알립니다. 확인 자체가 불가능한 상황이라면 답을 내보내지 않는 쪽을 택합니다. 이 설계의 요점은 정확도를 높였다는 자랑이 아니라, 확인 부담을 사용자에게 넘기지 않고 시스템이 떠안았다는 데 있습니다. 사용자는 남아 있는 인용이 이미 대조를 통과한 것임을 전제로 읽을 수 있고, 그 전제가 틀리면 책임은 우리에게 있습니다. 답의 편의와 근거의 정직성 사이에서 하나를 버리는 대신, 둘 사이의 간극을 시스템 내부의 노동으로 메우는 선택입니다.

4

제도가 정책을 카탈로그로 만들 때, 실험은 표준이 된다

같은 날 LawSites는 서퍽대 로스쿨 학장 앤드루 펄먼이 만든 사이트를 소개했습니다. 미국 196개 로스쿨 가운데 128곳의 공개된 AI 정책과 교육 전략, 교과 프로그램을 여덟 개 주제로 정리한 아카이브입니다. 그동안 로스쿨의 AI 정책이 뉴스가 된 것은 대개 논란이 있을 때였습니다. 생성형 AI를 성적 평가 대상 과제의 거의 모든 단계에서 금지한 UC버클리 로스쿨의 사례가 그랬습니다. 그러나 흩어져 있던 정책이 한자리에 모여 비교 가능해지는 순간, 사건은 성격을 바꿉니다. 개별 학교의 실험이 서로를 참조하는 규범 자료가 되고, 뒤늦게 정책을 만드는 학교는 백지가 아니라 선례 위에서 출발합니다. 전략적으로 이것은 채택 곡선의 후반부에 나타나는 신호입니다. 기술이 논쟁의 대상일 때는 찬반이 뉴스가 되지만, 제도화 단계에 들어서면 비교와 표준화가 뉴스가 됩니다. 법률 AI를 만드는 쪽에서 보면, 이제 설명해야 할 상대는 호기심 있는 얼리어답터가 아니라 정책 문서를 들고 있는 기관입니다.

5

계절적 관심을 구조적 수요로 오독하지 않기

LawSites가 7월 말 전한 2분기 리걸테크 구매 행태 보고서는 다른 방향에서 같은 교훈을 줍니다. 1분기에 로펌들이 잡은 제품 데모 건수는 거의 모든 주요 분야에서 크게 늘었지만, 2분기 보고서는 그 급증의 상당 부분이 계절적인 평가 주기였고 흐름이 되돌아갔다고 분석했습니다. 다만 새로 포함된 구매 의도 데이터는 수요가 어디에 집중되고 있는지를 더 세밀하게 보여 준다고 합니다. 이 두 사실을 함께 읽어야 합니다. 관심의 총량은 계절을 타지만, 수요의 방향은 구조를 반영합니다. 제품을 만드는 쪽에서 위험한 것은 상승 구간의 숫자를 시장의 영구적 전환으로 읽고 그에 맞춰 조직과 비용을 키우는 일입니다. 반대로 하강 구간을 열기의 소멸로 읽는 것도 같은 종류의 오독입니다. 우리가 지표로 삼아야 할 것은 살펴본 사람의 수가 아니라 같은 일을 다시 우리에게 맡긴 사람의 비율입니다. 반복은 계절을 타지 않습니다.

6

가격은 시간의 대가가 아니라 위험 인수의 대가다

Artificial Lawyer는 7월 말, 리걸 AI 때문에 고객이 가격 인하를 기대해야 하는지를 정면으로 물었습니다. 역사상 거의 모든 기술 전환은 어떤 일을 하는 비용을 낮췄으니, 법률이라고 예외일 수 있느냐는 물음입니다. 타당한 질문이지만, 법률 서비스의 가격을 투입 시간의 함수로만 보면 답을 놓치게 됩니다. 의뢰인이 지불하는 상당 부분은 작업 시간이 아니라 위험을 대신 떠안아 주는 데 대한 대가입니다. 판단이 틀렸을 때 책임지는 주체가 있다는 사실 자체가 값을 형성합니다. 그렇다면 AI가 작업 시간을 줄이는 것만으로는 가격이 비례해서 내려가지 않습니다. 오히려 검증되지 않은 산출물이 늘어나면 확인 비용과 사고 위험이 커져 가격의 하방을 막습니다. 값이 실제로 내려가는 경로는 하나뿐입니다. 산출물의 신뢰도가 올라가 확인에 드는 비용과 사고 확률이 함께 줄어드는 경우입니다. 검증 계층이 비용 항목이 아니라 가격 경쟁력의 원천이 되는 이유가 여기에 있습니다.

반론과 재반박

예상 반론 답을 주지 않는 제품이 새로 등장했다는 것은 결국 답변형 접근이 신뢰를 잃었다는 뜻 아닌가. 그렇다면 답을 만들되 검증하겠다는 절충안 역시 같은 불신의 대상이 될 뿐이며, 애초에 답을 만들지 않는 쪽이 더 정직한 설계가 아닌가.

재반박 답을 주지 않는 것은 정직하지만, 그 정직함의 비용을 사용자가 전부 부담합니다. 판례 묶음을 받아 든 사람은 여전히 읽고 종합해야 하며, 그 시간이 없는 사람에게 그 제품은 쓰이지 않습니다. 법률 접근성의 관점에서 보면 이것은 중립이 아니라 선별입니다. 이미 훈련받은 전문가에게는 충분하지만, 무엇을 물어야 할지조차 모르는 사람에게는 아무것도 해결해 주지 않기 때문입니다. 절충안이 불신을 피하는 방법은 말이 아니라 구조입니다. 확인에 실패한 인용을 스스로 지우고 무엇이 지워졌는지 보여 주는 시스템은, 신뢰해 달라고 요청하는 대신 신뢰하지 않아도 되는 상태를 만듭니다. 검증의 결과가 사용자 눈에 보이는 한, 그 절충은 타협이 아니라 책임의 이전입니다.

법마디 OS가 그리는 미래

우리가 그리는 단계는 소박하고 구체적입니다. 단기적으로는 답변에 등장하는 모든 법령과 판례가 원문 대조를 통과했는지를 이용자가 답변 화면에서 곧바로 확인할 수 있게 하고, 대조에 실패해 제거된 부분이 있으면 그 사실을 숨기지 않고 알리는 상태를 유지합니다. 중기적으로는 검증 계층을 특정 생성 모델에서 완전히 떼어내, 어떤 모델로 바꾸어도 같은 기준의 확인을 거치도록 만드는 일에 집중합니다. 모델은 교체 가능한 부품이고, 바뀌지 않아야 할 것은 확인의 기준이기 때문입니다. 장기적으로는 이 확인 기록이 개별 답변을 넘어 축적되어, 어떤 쟁점에서 우리가 무엇을 확인했고 무엇을 확인하지 못했는지가 그 자체로 공개된 자산이 되기를 바랍니다. 확인하지 못한 영역을 정직하게 표시하는 일은 약점의 고백이 아니라, 신뢰가 쌓이는 유일하게 검증 가능한 방식입니다.

전략적 함의

"무엇을 보여줄지 정하는 순간, 우리는 틀렸을 때 누가 책임질지를 이미 정한 것입니다."

참고 자료

칼럼니스트

서연

서연

최고전략책임자 (CSO · Chief Strategy Officer)

미국 연방대법원 로클럭 출신급 / 글로벌 Top3 전략 컨설팅 파트너급
법마디 OS 무료로 경험하기
본 칼럼은 법마디 OS 전략팀의 관점이며, 투자 권유나 법률 자문이 아닙니다.