라벨은 정체를 말하고, 검증은 내용을 말한다
AI가 만들었다는 표시는 그 내용이 맞는지 말해 주지 않습니다. 이번 달 연구 셋을 겹쳐 읽으면 신뢰의 근거가 표시에서 확인 가능성으로 옮겨 가는 이유가 보입니다.
초록 생성형 AI 규제의 첫 세대는 표시 의무로 열렸습니다. 만들어진 것에 만들어졌다는 딱지를 붙이라는 요구입니다. 그러나 이용자가 실제로 부담하는 위험은 '이것이 AI가 쓴 글인가' 가 아니라 '여기 적힌 근거가 실재하고 지금도 유효한가' 입니다. 이 글은 2026년 8월에 공개된 연구 셋을 겹쳐 읽습니다. 표시 의무의 구조적 한계를 분석한 연구, 스무 개 관할의 범용 AI 거버넌스를 조항 단위로 매핑한 연구, 그리고 법령 사이의 교차참조를 검증 연산으로 바꾼 연구입니다. 셋을 이으면 하나의 방향이 보입니다. 규제가 정체성 표시에 머무는 동안, 시장에서 신뢰를 만드는 축은 확인 가능성으로 옮겨 갑니다.
규제가 새 기술을 만나면 가장 먼저 나오는 요구는 대개 표시입니다. A Regulatory Placebo?(arXiv:2608.16470, 2026-08-17)는 전 세계로 번진 생성형 AI 표시 의무를 '기술적 공포와 그에 대한 제도적 반응이 촉발한 반사적·상징적 입법' 으로 규정합니다. 저자들은 표시 의무를 떠받치는 세 갈래 이론, 즉 가치 희석론과 정보 진정성론, 사전적 규제론을 차례로 검토한 뒤 그것들이 현대 기술의 작동 논리를 이해하지 못한 규제자의 인지적 한계에서 나온 산물이라고 결론짓습니다. 표시가 구현 단계에서 난제를 만들 뿐 아니라 기술의 진화 경로를 가로막을 위험이 있고, 무엇보다 형식적 준수 요구가 '규제 플라시보' 가 되어 이 시대의 진짜 법적 요구를 가린다는 것입니다. 그래서 저자들이 제안하는 전환은 분명합니다. 정체성 표시 중심의 거버넌스에서 내용 중심의 거버넌스로 옮기라는 것입니다. 이 진단을 우리 업의 언어로 옮기면 질문 하나가 남습니다. 법률 답변에 'AI가 작성했습니다' 를 붙이는 일과, 그 답변이 인용한 조문이 실재하고 현행인지를 확인하는 일 중 이용자를 실제로 지키는 것은 어느 쪽입니까.
핵심 개념 정의
정체성 표시 거버넌스
산출물이 무엇에 의해 만들어졌는지를 밝히게 하는 규율입니다. 생성형 AI 표시 의무가 대표적이며, 대상을 식별하는 데는 쓰이지만 그 내용이 참인지에 대해서는 아무것도 말하지 않습니다.
내용 거버넌스
산출물의 출처와 근거, 유효성을 확인할 수 있게 만드는 규율입니다. A Regulatory Placebo? 가 표시 중심 규율의 대안으로 제시한 방향이며, 확인 절차가 있어야 성립한다는 점에서 표시보다 비용이 크고 흉내 내기 어렵습니다.
AI 중견국
프런티어 모델 개발자를 자국에 두지 않은 채 범용 AI를 규율해야 하는, 지역적으로 앞선 경제권을 가리키는 말입니다. Mapping General-Purpose AI Governance in Twenty AI Middle-Power Jurisdictions(arXiv:2608.19278, 2026-08-18)가 붙인 이름이며, 이 논문은 유럽연합을 포함한 스무 관할을 조항 단위로 매핑했습니다.
검증 연산으로서의 교차참조
법령 사이의 참조를 링크가 아니라 '양쪽에서 재구성해 대조하는 절차' 로 다루는 방법입니다. Qualified Cross-References as a Verification Method(arXiv:2608.19194, 2026-08-19)는 A에서 B로 기록한 관계를 B의 관점에서 양쪽 조항에 비추어 재구성하는 양방향 역전을 제안하며, 이를 중복 표가 아니라 검증 연산이라고 부릅니다.
전략적 관점
표시는 식별을 해결하고, 이용자의 위험은 식별 다음에 있다
표시 의무의 논리는 단순합니다. 무엇이 기계의 산출물인지 알면 사람이 알아서 조심하리라는 것입니다. A Regulatory Placebo? 는 이 전제를 세 이론으로 나누어 검토한 뒤, 그것들이 기술의 작동 논리에 대한 이해 부족에서 나온 것이라고 정리합니다. 형식적 준수 요구가 규제 플라시보가 되어 진짜 법적 요구를 가린다는 표현이 이 논문의 핵심입니다. 법률 서비스에서 이 지적은 특히 구체적입니다. 이용자가 두려워하는 것은 답변의 저자가 사람인지 기계인지가 아니라, 그 답변이 가리킨 조문이 실재하는지, 지금도 유효한지, 자기 사안에 적용되는지입니다. 표시는 이 셋 중 어느 것에도 답하지 않습니다. 그런데 표시는 값싸고 즉시 가능하므로, 규제와 사업자 양쪽에서 먼저 선택됩니다. 결과적으로 시장에는 '표시는 다 되어 있지만 확인은 아무도 하지 않는' 상태가 남고, 이용자는 여전히 스스로 원문을 찾아 대조해야 합니다. 신뢰의 공백은 그 자리에서 생깁니다.
형식은 수렴하고 구속력은 갈린다 — 관측만 하는 규제의 구조
Mapping General-Purpose AI Governance in Twenty AI Middle-Power Jurisdictions 는 프런티어 모델이 주로 두 관할에서 만들어지는 반면 그 위험은 전 세계에 떨어진다는 사실에서 출발합니다. 저자들은 책임 사슬을 따라 네 영역, 즉 시스템적 위험 평가, 평가와 검증, 금지와 그에 대한 모니터링·탐지, 중대 사고 보고를 정하고 스무 관할을 조항 단위로 매핑했습니다. 확인된 부재까지 데이터로 기록한 점이 이 연구의 방법적 특징입니다. 결과는 한 문장으로 요약됩니다. 관할들은 형식에서는 수렴하지만 구속력에서는 갈립니다. 네 영역 중 셋 이상에 관여하는 관할이 열여섯인데, 조항 다섯 중 하나 정도만 구속력 있는 법에 자리하고, 구속하는 문서의 네 중 셋은 범용 AI를 정의하지 않은 채 구속합니다. 제도의 모양도 같습니다. 매핑된 거버넌스 주체 다섯 중 넷은 범용 AI 이전부터 있던 권한을 가지고 있고, 의무는 기존 규제가 이미 닿던 곳, 즉 모델 계층이 아니라 응용 계층에 붙습니다. 저자들의 표현으로, 이들 국가는 모델 계층을 관측할 역량을 만들되 그것을 만드는 쪽에 의무를 지우지는 않으며, 평가 기관은 거의 모두 발견한 것에 대해 조치할 권한 없이 설치됐습니다.
그렇다면 확인은 누가 하는가 — 공백은 민간의 설계 문제가 된다
앞의 두 연구를 겹치면 구도가 나옵니다. 표시는 널리 요구되지만 내용을 말하지 않고, 모델 계층에 대한 구속력 있는 의무는 유럽연합 밖에서는 사실상 비어 있습니다. 같은 논문은 유럽연합을 제외하면 어떤 관할도 모델 개발자에게 구속력 있는 평가 의무를 부과하지 않는다고 적습니다. 이 공백은 곧 시장의 조건입니다. 규제가 확인해 주지 않는다면, 확인은 그것을 필요로 하는 쪽이 스스로 만들어 보여 주어야 합니다. 규제 산업의 구매자가 도구를 고를 때 성능보다 통제와 감사 가능성을 먼저 묻는 이유가 여기에 있습니다. 우리가 서 있는 자리도 그렇습니다. 법마디는 답변에 인용된 법령 조문을 국가법령정보센터 원문과 대조해 확인되지 않은 인용을 차단하는 계층을 운영합니다. 이것은 표시가 아니라 절차이고, 모델을 교체해도 남습니다. 반대로 우리가 아직 갖지 못한 것도 분명합니다. 그 절차가 제대로 도는지를 외부가 확인하게 하는 제3자 감사는 아직 설계 단계이고, 지금 우리가 공개할 수 있는 것은 절차의 구조와 그 판정 기록뿐입니다.
검증은 표가 아니라 연산이다 — 방법이 이미 나와 있다
확인 가능성을 말로만 주장하지 않으려면 방법이 필요합니다. Qualified Cross-References as a Verification Method 는 그 방법의 한 형태를 보여 줍니다. 저자들은 법령 사이의 참조를 단순한 링크로 두지 않고, 상호작용의 법적 성격과 그것을 뒷받침하는 조항, 조건, 그리고 어느 쪽에서 접근하더라도 일관돼야 한다는 요건까지 포함하는 조항 단위 모형을 만들었습니다. 방법의 핵심은 양방향 역전입니다. A에서 B로 기록한 관계를 B의 관점에서 양쪽 조항에 비추어 다시 세우고, 조항과 성격, 방향, 조건을 시험한 뒤에야 어떻게 표시할지 정합니다. 결과가 이 방법의 값을 말해 줍니다. 구축 과정에서 잘못된 조 참조 여섯 건, 부정확한 법적 성격 세 건, 그리고 같은 상호작용에 대한 두 공개 설명 사이의 불일치 한 건이 드러났습니다. 링크의 존재는 주장의 시작일 뿐이라는 이 논문의 문장은 우리 자산 설계의 규율과 정확히 같습니다. 조문 하나를 검증했다는 기록은 그 조문이 언제·어느 법의 것으로·무엇과 이어져 확인됐는지를 함께 말할 때에만 검증입니다.
한국에서 이 구도가 갖는 의미 — 중견국의 사업자가 먼저 증명해야 한다
한국은 프런티어 모델 개발자를 자국에 두지 않은 채 범용 AI를 규율해야 하는 위치에 있습니다. 매핑 연구가 정의한 AI 중견국의 조건 그대로입니다. 이 위치에서는 두 가지가 동시에 참입니다. 국내 규제는 모델을 만드는 쪽이 아니라 응용하는 쪽, 즉 우리 같은 사업자에게 먼저 닿고, 동시에 그 규제는 대개 관측과 지침의 형태여서 이용자에게 확인을 제공하지는 않습니다. 그래서 국내 법률 AI에서 신뢰는 규제 준수 선언으로 만들어지지 않습니다. 확인 절차를 스스로 갖추고 그 절차가 무엇을 막았는지 보여 주는 쪽이 신뢰를 가져갑니다. 여기에는 유리한 조건이 하나 있습니다. 한국 법령은 국가법령정보센터라는 공적 정본이 기계적으로 조회 가능한 형태로 열려 있어, 인용을 원문과 대조하는 절차를 실제로 돌릴 수 있습니다. 표시는 어디서나 붙일 수 있지만 대조는 정본이 있어야 가능합니다. 이 조건 위에서 우리가 팔아야 하는 것은 '좋은 모델을 씁니다' 가 아니라 '확인되지 않은 것은 내보내지 않습니다' 입니다.
반론과 재반박
예상 반론 표시 의무를 규제 플라시보라고 부르는 것은 지나치다. 표시는 최소한의 투명성이며, 확인 절차를 요구하는 규율로 넘어가려면 표준과 감사 역량이 먼저 갖춰져야 한다. 게다가 사업자가 스스로 검증 절차를 갖추겠다고 말하는 것은 자기 채점이므로, 규제의 공백을 민간의 선의로 메우자는 주장에 가깝지 않은가.
재반박 표시를 없애자는 주장이 아닙니다. 표시는 식별의 문제를 해결하고 그 값은 그대로 남습니다. 다만 표시가 신뢰의 대용품으로 소비될 때 진짜 요구가 가려진다는 것이 A Regulatory Placebo? 의 지적이고, 그 요구는 내용의 확인입니다. 자기 채점이라는 비판은 정확합니다. 그래서 우리가 공개해야 하는 것은 '검증했다' 는 선언이 아니라 무엇을 어떤 기준으로 대조했고 무엇이 막혔는지의 기록이며, 그 기록이 외부에서 재현 가능해야 자기 채점을 벗어납니다. 매핑 연구가 보여 준 대로 평가 기관 대부분이 조치 권한 없이 설치된 상황에서, 재현 가능한 기록은 규제를 대신하는 것이 아니라 규제가 도착했을 때 가장 먼저 읽힐 자료가 됩니다.
법마디 OS가 그리는 미래
앞으로 몇 년간 AI 규율은 두 층으로 갈라져 진행될 것입니다. 한 층은 표시와 고지처럼 즉시 요구할 수 있는 형식이고, 다른 한 층은 평가와 검증, 사고 보고처럼 역량과 권한이 있어야 작동하는 실질입니다. 매핑 연구가 보여 준 그림대로라면 앞의 층은 빠르게 수렴하고 뒤의 층은 오래 갈라져 있을 것입니다. 그 사이에서 시장은 자기 방식으로 균형을 찾습니다. 규제가 확인해 주지 않는 것을 구매자가 계약과 조달 문서로 먼저 요구하는 것입니다. 그때 물어볼 질문은 이미 정해져 있습니다. 이 답변의 근거는 어디서 왔는지, 그 근거가 지금도 유효한지를 무엇이 확인했는지, 확인하지 못했을 때 시스템은 무엇을 했는지. 법률 영역에서는 마지막 질문이 가장 무겁습니다. 확인하지 못했을 때 답을 만들어 내보내는 시스템과 멈추는 시스템은 같은 성능 지표를 갖고도 전혀 다른 물건이기 때문입니다. 우리가 준비하는 자리는 그래서 분명합니다. 표시가 규격이 되는 시대가 아니라, 확인 기록이 규격이 되는 시대에 먼저 도착해 있는 것입니다.
전략적 함의
- 제품의 신뢰 서술을 '어떤 모델을 쓰는가' 에서 '무엇을 무엇과 대조하는가' 로 바꾼다. 표시 문구가 아니라 확인 절차와 그 판정 기록이 대외 설명의 1차 자료가 되어야 한다.
- 검증 기록은 링크가 아니라 관계로 남긴다. 어떤 조문을 언제, 어느 법의 것으로, 어떤 근거에서 확인했는지를 함께 적고, 양쪽에서 재구성해도 같은 답이 나오는지를 정기적으로 시험한다.
- 규제 공백을 전제로 로드맵을 짠다. 모델 계층에 대한 구속력 있는 평가 의무가 유럽연합 밖에서 사실상 없다는 것은, 확인 가능성이 당분간 규제 준수 항목이 아니라 경쟁 항목이라는 뜻이다.
"무엇이 썼는지를 밝히는 일과 무엇이 맞는지를 확인하는 일은 다릅니다. 앞의 것은 오늘 붙일 수 있고, 뒤의 것은 오늘부터 쌓아야 합니다."
