증류의 비대칭: 능력은 이전되고 통제는 남는다
모델의 능력은 출력만으로도 복제되지만, 그 안에 내장된 안전장치는 함께 따라가지 않습니다. 능력이 값싸게 확산될수록 값은 능력이 아니라 검증과 통제에 붙습니다.
초록 이 칼럼은 '증류(distillation)'라는 기술적 사실에서 출발해, 법률 AI의 값이 어디에 귀속되는지를 다시 묻습니다. 대형 모델의 출력만 있으면 작고 특화된 모델을 만들 수 있다는 것은, 능력이 가중치가 아니라 결과물의 형태로 새어나간다는 뜻입니다. 그런데 이때 원본에 내장돼 있던 안전장치와 거부 규칙은 함께 이전되지 않습니다. 능력은 이전되고 통제는 남는 이 비대칭이 핵심 논지입니다. 결론은 이렇습니다. 복제가 쉬운 층에는 값이 오래 머물지 않으며, 값은 복제되지 않는 층 — 검증된 근거와 그 근거를 강제하는 구조 — 으로 이동합니다.
한 대학이 상용 대형 모델로 합성 학습 데이터를 만든 뒤, 그것으로 훨씬 작은 분류 모델을 학습시킵니다. 다른 연구진은 이미지 처리 모델을 압축해 통신이 끊긴 무인기에서도 돌아가는 경량 모델로 바꿉니다. 로이터가 최근 보도한 이 사례들은 고성능 반도체 확보가 어려운 환경에서도 능력이 어떻게 이동하는지를 보여줍니다. 여기서 주목할 것은 지정학이 아니라 메커니즘입니다. 최첨단 모델을 처음부터 만들지 않아도, 그 모델이 내놓은 출력만 충분히 모으면 특정 임무에 최적화된 모델을 세울 수 있습니다. 능력은 이제 담장 안에 갇힌 자산이 아니라 출구가 여럿인 흐름입니다. 그렇다면 전략적으로 던져야 할 질문은 '누가 더 좋은 모델을 가졌는가'가 아니라 '무엇이 복제되지 않는가'입니다. 이 칼럼은 그 하나를 특정하려 합니다.
핵심 개념 정의
증류(Distillation)
대규모 모델이 생성한 출력을 학습 데이터로 삼아, 특정 목적에 최적화된 작은 모델을 만드는 기법. 원본을 처음부터 학습시킬 때 드는 대규모 연산 자원 없이도 특정 임무 수행 능력을 옮겨올 수 있다.
통제 비이전성
능력은 출력을 통해 이전되지만, 원본 모델에 내장된 거부 규칙·안전장치·사용 정책은 함께 이전되지 않는 성질. 앤트로픽은 증류로 만들어진 모델에서 원본의 안전장치가 사라져 민감한 기능이 통제 밖으로 옮겨갈 위험을 경고했다.
검증 자산
출력을 그대로 믿지 않고 1차 출처와 대조해 실재와 내용 일치를 확인한 근거의 축적물. 모델의 산물이 아니라 대조 과정의 산물이므로, 모델을 바꿔도 남고 출력만 모아서는 재현되지 않는다.
전략적 관점
능력은 가중치가 아니라 출력으로 샌다
지금까지 모델 경쟁은 암묵적으로 '가중치를 가진 자가 능력을 가진다'는 전제 위에 있었습니다. 증류는 그 전제를 흔듭니다. 원본의 내부 매개변수에 접근하지 않아도, 그 모델이 내놓은 답변을 충분히 모으면 특정 임무에 대해 비슷하게 행동하는 작은 모델을 세울 수 있기 때문입니다. 실제로 검토된 사례들에서 연구진은 상용 모델로 합성 데이터를 생성한 뒤 이를 분류 모델 학습에 사용했고, 무거운 이미지 모델을 무인기 탑재가 가능한 크기로 줄였습니다. 이는 접근 통제를 아무리 세밀하게 걸어도, 서비스를 제공하는 한 출력이라는 출구는 열려 있다는 뜻입니다. 전략적 함의는 분명합니다. 능력을 해자로 삼는 설계는 시간이 갈수록 방어 비용이 커집니다. 담장을 높이는 속도보다 출력이 쌓이는 속도가 빠르기 때문입니다. 법률 AI에서도 마찬가지입니다. '우리 모델이 더 잘 쓴다'는 우위는 그 잘 쓴 결과물이 세상에 나가는 순간부터 조금씩 복제 가능한 형태로 바뀝니다.
함께 가지 않는 것: 안전장치의 비이전성
더 중요한 것은 무엇이 복제되지 않는가입니다. 증류는 능력을 선택적으로 옮기지만, 원본에 내장돼 있던 거부 규칙과 안전장치는 그 화물에 실리지 않습니다. 앤트로픽이 경고한 지점이 정확히 이것입니다 — 증류로 만들어진 모델에서는 원본의 안전장치가 사라질 수 있고, 그 결과 민감한 기능이 통제 밖의 모델로 이전될 수 있습니다. 이 비대칭은 우연이 아니라 구조적입니다. 안전장치는 출력에 담기는 정보가 아니라 출력을 만들지 *않기로* 하는 판단이기 때문입니다. 즉 안전장치는 무엇이 나왔는가가 아니라 무엇이 나오지 않았는가에 존재하며, 나오지 않은 것은 학습 데이터로 수집되지 않습니다. 여기서 일반 원리를 얻습니다. 결과물로 표현되는 것은 복제되고, 결과물을 억제하는 규칙은 복제되지 않습니다. 법률 AI가 값을 받아야 할 자리는 바로 이 후자입니다. 무엇을 그럴듯하게 쓰는 능력이 아니라, 근거 없는 문장을 내보내지 않는 규율이 복제되지 않는 자산입니다.
모델 계층의 자본 집중은 응용 계층의 논리를 바꾼다
같은 주에 또 하나의 신호가 있었습니다. 아마존이 오픈AI에 대한 지분 투자를 마무리하며 두 진영 모두와 관계를 유지하는 구도를 굳혔다는 공시입니다. 모델 계층은 지금 소수의 초대형 자본이 인프라·반도체·클라우드와 함께 묶이는 방향으로 통합되고 있습니다. 응용 계층에 있는 사업자에게 이것은 두 가지를 뜻합니다. 첫째, 최전선 모델 성능은 앞으로도 빠르게 좋아지겠지만 그 성능은 우리만의 것이 아니라 모두에게 동시에 도착합니다. 둘째, 그 계층에서 우위를 다투는 일은 자본 규모의 게임이며 응용 사업자가 이길 수 있는 게임이 아닙니다. 그렇다면 합리적 전략은 모델을 붙잡는 것이 아니라 모델을 교체 가능한 부품으로 취급하고, 교체해도 흔들리지 않는 층을 두껍게 하는 것입니다. 법마디 OS가 특정 모델에 종속되지 않는 구조를 지향하는 이유가 여기 있습니다. 답변의 품질을 어떤 모델을 쓰는가가 아니라 검증된 자산과 실패 시 차단하는 게이트가 보장하도록 설계하면, 모델 계층의 지각변동은 위협이 아니라 무상 업그레이드가 됩니다.
규제는 출력에 이름표를 붙이고, 그 이름표는 근거를 요구한다
8월 2일부터 유럽에서는 AI와 상호작용한다는 사실을 이용자에게 알리고, AI가 생성한 이미지·오디오·영상과 마케팅 자료에 라벨을 붙이는 의무가 시행됐습니다. 한 로펌 변호사는 이를 'AI 분야의 쿠키 배너 같은 순간'이라고 표현했습니다. 추상적이던 규범이 이용자 눈에 보이는 표시로 내려온 것입니다. 산업계에서는 라벨 남발이 피로감을 준다는 반론이 나오고, 실제로 단순 보정은 예외로 정리됐습니다. 그러나 전략적으로 중요한 것은 부담의 크기가 아니라 방향입니다. 라벨이 의무가 되면 'AI가 만들었다'는 사실은 더 이상 감출 수 있는 변수가 아니게 되고, 경쟁은 그 이름표 옆에 무엇을 함께 붙일 수 있는가로 옮겨갑니다. 이름표만 붙은 산출물과, 이름표 옆에 확인 가능한 근거가 붙은 산출물은 같은 값을 받지 않습니다. 즉 표시 의무는 비용 항목이 아니라, 검증 가능성을 값으로 바꿔주는 제도적 장치에 가깝습니다. 근거를 댈 수 있는 쪽에게 규제는 진입장벽이 아니라 증명 무대입니다.
복제되지 않는 층을 어떻게 두껍게 하는가
그렇다면 실천은 무엇인가. 검증 자산은 모델의 산물이 아니라 대조 과정의 산물이라는 점이 출발점입니다. 어떤 조문이 실제로 존재하는지, 인용한 판결이 그 사건번호로 그 내용을 담고 있는지를 1차 출처와 맞춰본 기록은 출력을 아무리 많이 모아도 재현되지 않습니다. 대조는 외부 권위와의 접촉이지 문장 생성이 아니기 때문입니다. 여기에 하나를 더해야 합니다. 확인되지 않으면 내보내지 않는다는 규율입니다. 자산이 아무리 두꺼워도 미검증 인용을 통과시키는 순간 그 자산은 장식이 됩니다. 반대로 확인 실패 시 차단하는 구조는 앞서 말한 '복제되지 않는 것'의 조건을 정확히 충족합니다. 그것은 무엇을 내놓았는가가 아니라 무엇을 내놓지 않았는가로 존재하기 때문입니다. 법마디 OS의 설계가 생성기 교체를 전제로 하면서도 검증 계층만은 고정된 자리에 두는 이유가 이것입니다. 능력은 빌려 쓰되, 규율은 소유해야 합니다.
반론과 재반박
예상 반론 반론은 이렇습니다. 검증도 결국 자동화될 것이고, 대조 결과 역시 출력의 형태로 축적되는 이상 언젠가 복제 대상이 된다. 게다가 근거를 요구하는 규율은 답변을 느리고 인색하게 만들어, 빠르고 매끄러운 경쟁자에게 시장을 내줄 수 있다.
재반박 앞부분은 절반만 맞습니다. 대조의 결과물은 복제될 수 있지만, 대조의 대상인 1차 출처는 계속 변합니다. 법령은 개정되고 판례는 쌓입니다. 따라서 검증 자산의 값은 고정된 재고가 아니라 갱신 속도에서 나오며, 갱신은 출력 수집으로 대체되지 않습니다. 뒷부분은 대상을 혼동한 것입니다. 인색함이 비용이 되는 영역은 취향의 문제가 걸린 곳이고, 법률은 틀린 인용 하나가 사람의 결정을 잘못된 방향으로 돌려놓는 영역입니다. 여기서는 느리지만 확인된 답이 빠르지만 확인되지 않은 답보다 값이 큽니다. 실제로 표시 의무의 확산은 그 값 차이를 시장이 알아볼 수 있게 만드는 방향으로 작동합니다.
법마디 OS가 그리는 미래
법마디 OS가 가려는 자리는 가장 좋은 모델을 가진 곳이 아니라, 모델이 바뀌어도 같은 품질의 답을 내는 곳입니다. 단기적으로는 생성기를 어댑터 경계 뒤로 완전히 숨겨, 어떤 모델로 교체해도 검증 계층이 그대로 작동하도록 만드는 일이 우선입니다. 중기적으로는 서로 다른 생성기로 같은 질의를 돌려 두 경로 모두가 동일한 근거로 동일한 결론에 이르는지를 확인하는 대조 체계를 갖추는 것이 목표입니다. 이것이 모델 비종속성을 주장이 아니라 측정된 사실로 만드는 방법입니다. 장기적으로는 검증된 근거의 갱신 자체가 서비스가 되는 단계를 봅니다. 이용자가 받는 것은 그럴듯한 문장이 아니라 오늘 기준으로 확인된 근거와, 확인되지 않은 부분이 무엇인지에 대한 정직한 표시입니다. 어느 단계에서도 확인되지 않은 것을 확정적으로 말하지 않는다는 규율은 바뀌지 않습니다.
전략적 함의
- 능력을 해자로 삼는 설계는 방어 비용이 커진다. 해자는 복제되지 않는 층 — 대조된 근거와 그것을 강제하는 규율 — 에 세워야 한다.
- 모델 계층의 자본 집중은 응용 사업자에게 위협이 아니라 전제다. 모델을 교체 가능한 부품으로 다루는 설계가 그 집중을 무상 업그레이드로 바꾼다.
- 표시 의무의 확산은 규제 부담이 아니라 증명 무대다. 이름표 옆에 확인 가능한 근거를 붙일 수 있는 쪽이 그 제도에서 값을 얻는다.
"복제되는 것을 지키려 애쓰기보다, 복제되지 않는 것을 두껍게 하는 편이 낫습니다."
