우회는 막지 못한다 — 대신 드러나게 만든다
작성 2026-07-26 · 최종 갱신 2026-07-26
ADR-0008 은 배포물에 게이트를 내장하되 우회를 막을 수 없다는 한계를 적어 두고 결정은 하지 않았다. 우회를 완전히 차단하겠다고 말하지 않는 대신, 산출물이 스스로 어떤 상태에서 만들어졌는지 증언하게 한다. 무결성 확인 실패는 '확인됨'이 아니라 '확인 불가'로 표기하고, 조작이 의심되는 입력은 버리지 않고 표시해 남긴다.
맥락
ADR-0008 은 온프레미스 배포를 기본형으로 정하면서 게이트를 배포물에 내장했다. 그리고 그 한계도 적었다. 받은 쪽이 우회하려 들면 막을 방법이 제한되고, 서명 검증으로 변조를 드러낼 수는 있으나 드러내는 것과 막는 것은 다르다는 것이다.
그 한계는 인정만 되어 있고 결정으로 옮겨지지 않았다. 인정된 한계는 시간이 지나면 해결된 것처럼 취급되기 쉽다.
ADR-0018 은 입력을 다뤘지만 그것은 부족한 입력이다. 시료가 모자라거나 대조군이 없는 경우이지, 누군가 결과를 특정 방향으로 밀기 위해 손댄 입력이 아니다. 두 경우의 처리는 반대여야 한다. 부족한 입력은 반려하면 되지만, 조작이 의심되는 입력을 반려해 돌려보내면 그 사실 자체가 사라진다.
생성 모델을 쓰는 구간에는 또 다른 경로가 있다. 입력에 섞인 문장이 시스템에 대한 지시로 읽히면 입력이 곧 명령이 된다. 감정 자료나 수사 자료는 우리가 통제하지 않는 텍스트를 포함할 수 있다.
검토한 대안
우회를 기술적으로 완전히 차단한다.
기관 경계 안에서 실행되는 배포물에서는 성립하지 않는다. 더 나쁜 것은 차단했다고 말하는 것이다. 그 말을 믿고 검증을 생략하면 우회가 있을 때 아무도 보지 않는다.
계약으로 우회를 금지하고 위반 시 책임을 묻는다.
위반을 알 수 없으면 조항은 작동하지 않는다. 우리는 운영 데이터에 접근하지 않으므로(ADR-0008) 계약만으로는 확인 경로가 없다.
우회를 막지 못한다는 전제에서, 산출물이 자기 생성 조건을 증언하게 한다.
확인은 사후에라도 가능해진다. 산출물에 상태가 붙어 있으면 법정에서든 재검토에서든 그 상태가 다투어질 수 있고, 다툴 수 있다는 것이 이 트랙이 지키려는 것이다.
결정
- 산출물에 그것을 만든 배포물의 서명·버전과 게이트 활성 상태를 함께 기록한다. 개입 게이트(ADR-0003), 재검토 모드(ADR-0014), 보존·삭제 설정(ADR-0005) 각각의 활성 여부를 산출물 안에 남긴다. 게이트가 꺼진 상태로 만들어진 산출물은 그 사실을 스스로 드러낸다.
- 무결성 확인에 실패하면 산출을 중단한다. 다만 확인 자체가 불가능한 경우를 정상으로 표시하지 않는다. 상태는 '확인됨'과 '확인 불가' 두 가지로 적고, 확인 불가를 확인됨으로 합치지 않는다.
- 조작이 의심되는 입력은 반려하지 않는다. ADR-0018 의 반려는 부족한 입력에 적용되며, 조작 의심은 표시와 보존으로 처리한다. 조작 여부는 사건의 사실일 수 있고, 우리가 판정할 위치에 있지 않다.
- 생성 모델을 쓰는 구간에서는 입력 텍스트가 시스템 지시로 해석되지 않도록 분리하고, 그 분리가 확인되지 않으면 그 구간의 출력을 산출물에 포함하지 않는다(ADR-0009 결정 4 와 같은 취급).
- 대외 문안에서 '변조 방지'라고 적지 않는다. 우리가 제공하는 것은 변조 탐지이며, 탐지와 방지의 차이를 계약서와 소개 자료에 명시한다.
근거
- 결정 1 은 ADR-0004 의 요구를 실행 가능한 형태로 옮긴 것이다. 그 기록은 감정서에 모델·소프트웨어의 식별자와 버전을 적게 했다. 사람이 옮겨 적는 방식이면 게이트가 꺼진 사실은 적히지 않는다. 산출물이 자기 상태를 지니고 나와야 기재가 사실과 어긋나지 않는다.
- 결정 2 의 두 상태 구분은 이 로그가 반복해 온 원칙이다. ADR-0010 은 정량화할 수 없으면 '정량화 불가'로 고정하게 했고, ADR-0008 은 집계를 받지 못한 기간을 '측정 불가'로 공개하게 했다. 모르는 것을 아는 것으로 합치지 않는 것이 이 트랙의 표기 규칙이다.
- 우회가 상대편의 위법일 수 있다는 점은 우리 의무를 줄이지 않는다. 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」 제48조 제1항은 정당한 접근권한 없이 또는 허용된 권한을 넘어 정보통신망에 침입하는 것을, 제2항은 정보통신시스템·데이터 또는 프로그램을 훼손·멸실·변경·위조하거나 운용을 방해할 수 있는 프로그램의 전달·유포를 금지한다. 금지 규정이 있다는 것과 위반을 우리가 알 수 있다는 것은 다르며, 이 기록이 다루는 것은 후자다.
- 무결성 기록을 남기라는 요구는 개인정보 보호 법령에도 있다. 「개인정보 보호법」 제29조는 안전성 확보에 필요한 조치를 요구하고, 「개인정보 보호법 시행령」 제30조 제1항 제5호는 침해사고 대응을 위한 접속기록의 보관과 위조·변조 방지 조치를 든다. 결정 1 의 상태 기록은 이 요구와 같은 방향에 있다.
- 결정 3 이 반려 대신 보존을 택하는 이유는 증거의 성격 때문이다. 입력이 조작되었다는 사실은 그 사건에서 다투어질 사실이며, 우리가 받지 않고 돌려보내면 그 판단의 재료가 우리 쪽에서는 사라진다. 보존과 표시는 ADR-0005 의 파생물 원칙 안에서 이루어진다.
- 결정 5 는 표현의 문제가 아니라 안전의 문제다. 방지되었다고 적으면 읽는 쪽은 검증을 생략한다. ADR-0009 가 그럴듯하지만 틀린 설명이 설명 없는 것보다 나쁘다고 한 것과 같은 구조다.
이 결정이 만드는 한계
- 탐지 기록이 늘어난다. 그 기록 자체가 보존·삭제의 대상이 되므로 부담은 다른 기록으로 넘어간다.
- 조작 의심 입력을 보존하는 것은 ADR-0005 의 최소보관과 충돌한다. 이 충돌은 해소되지 않으며, 보존의 근거를 자료 단위로 적는다는 그 기록의 결정 2 로 관리한다.
- 완전 차단을 말하지 않으므로 경쟁 제품의 문구보다 약해 보인다. 그 비교에서 지는 것을 감수한다.
- 결정 4 는 생성 모델의 사용 범위를 다시 좁힌다. ADR-0004 가 재현성으로 좁힌 데 이어 분리 확인이라는 조건이 더해지므로, 감정 목적에서 쓸 수 있는 구간은 더 작아진다.
- 우리가 탐지할 수 있는 것은 우리가 예상한 우회뿐이다. 이 기록은 탐지 못 한 우회가 없다고 말하지 않는다.
폐기 조건
- 실제로 게이트 우회나 배포물 변조가 관측될 때 — 그 경과를 기록하고 공급 형태 자체를 재검토한다(ADR-0008 폐기 조건과 연동).
- 입력 조작 표시가 실무에서 오히려 편견으로 작동하는 것이 확인될 때 — 결정 3 의 표시 방식을 재작성한다.
- 생성 모델 구간의 지시 분리를 검증할 표준적 방법이 확립될 때 — 결정 4 를 그 방법으로 갱신한다.
근거자료
인용 법령
- 「정보통신망 이용촉진 및 정보보호 등에 관한 법률」 제48조(정보통신망 침해행위 등의 금지) 제1항·제2항제1항 '정당한 접근권한 없이 또는 허용된 접근권한을 넘어 정보통신망에 침입', 제2항 훼손·멸실·변경·위조 프로그램의 전달·유포 금지 — DRF 본문 실증(시행 2026-07-07)
- 「개인정보 보호법」 제29조(안전조치의무)안전성 확보에 필요한 기술적·관리적·물리적 조치 — DRF 본문 실증
- 「개인정보 보호법 시행령」 제30조(개인정보의 안전성 확보 조치) 제1항 제5호'개인정보 침해사고 발생에 대응하기 위한 접속기록의 보관 및 위조ㆍ변조 방지를 위한 … 조치' — DRF 본문 실증(시행 2026-05-19)
- 「형사소송법」 제171조(감정보고) 제3항판단의 이유 명시 — 산출 상태가 기재와 어긋나면 이유가 성립하지 않는다. DRF 본문 실증
참고자료
법령 문언과 이 로그의 앞선 결정에만 근거한다. 공격 기법이나 방어 기술에 관한 외부 문헌은 인용하지 않았다. 이 기록이 정하는 것은 기술의 선택이 아니라 표기와 처리의 규칙이기 때문이다.
담당 리더
마디L60
시스템 총괄 · Master API Gateway대한민국 변호사급 / 법원행정처 전산정보국장 출신급
설계로그는 특정 법률 분야가 아니라 시스템 전체의 설계 결정을 다룬다. 개별 도메인 리더가 아니라 60명 리더 시스템의 운영·품질을 총괄하는 리더가 담당한다.
리더 프로필 보기