AI가 만들었다고 알려 줄 의무

투명성 의무를 한 덩어리로 읽으면 실제로 무엇을 요구할 수 있는지가 흐려집니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조는 세 항으로 나뉘어 있고, 대상과 시점과 방식이 항마다 다릅니다. 그리고 어겼을 때의 결과도 같지 않습니다. 순서대로 봅니다. 첫째, 사전고지입니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조 제1항은 인공지능사업자가 고영향 인공지능이나 생성형 인공지능을 이용한 제품 또는 서비스를 제공하려는 경우, 그 제품 또는 서비스가 해당 인공지능에 기반하여 운용된다는 사실을 이용자에게 사전에 고지하도록 합니다. 시점이 '사전' 이라는 점이 핵심입니다. 다 쓰고 난 뒤에 알리는 것은 이 항의 이행이 아닙니다. 그리고 이 항만이 곧바로 제재로 이어집니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제43조 제1항 제1호는 제31조 제1항을 위반하여 고지를 이행하지 아니한 자에게 3천만원 이하의 과태료를 부과하도록 정합니다. 둘째, 결과물 표시입니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조 제2항은 생성형 인공지능 또는 이를 이용한 제품·서비스를 제공하는 경우 그 결과물이 생성형 인공지능에 의하여 생성되었다는 사실을 표시하도록 합니다. 제1항이 '서비스가 인공지능 기반이다' 를 알리는 것이라면 제2항은 '이 결과물이 그렇게 만들어졌다' 를 결과물 자체에 붙이는 것입니다. 서비스 안내문에 한 줄 적어 두는 것으로 제2항까지 이행되지는 않는다는 뜻입니다. 셋째, 실제와 구분하기 어려운 결과물입니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제31조 제3항은 인공지능시스템을 이용하여 실제와 구분하기 어려운 가상의 음향, 이미지 또는 영상 등의 결과물을 제공하는 경우, 그 결과물이 인공지능시스템에 의하여 생성되었다는 사실을 이용자가 명확하게 인식할 수 있는 방식으로 고지하거나 표시하도록 합니다. 여기에는 조건이 하나 더 붙어 있습니다. 같은 항 후단은 결과물이 예술적·창의적 표현물에 해당하거나 그 일부를 구성하는 경우에는 전시 또는 향유 등을 저해하지 아니하는 방식으로 고지 또는 표시할 수 있다고 정합니다. 표시를 면제한 것이 아니라 방식을 달리할 수 있게 한 것입니다. 같은 조 제4항은 사전고지와 표시의 구체적인 방법과 그 예외를 대통령령으로 넘기고 있으므로, 화면 어디에 어떤 형태로 붙어야 하는지는 시행령에서 정해집니다. 여기서 실무적으로 가장 자주 놓치는 지점이 결과의 비대칭입니다. 과태료 조문인 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제43조 제1항은 제31조 제1항 위반과 국내대리인 미지정, 그리고 중지명령·시정명령 불이행을 열거할 뿐이고 제31조 제2항·제3항 위반 자체는 열거하고 있지 않습니다. 그러면 표시를 안 해도 되는 것이냐 하면 그렇지 않습니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제40조 제1항은 제31조 제2항·제3항, 제32조 제1항·제2항 또는 제34조 제1항에 위반되는 사항을 발견하거나 혐의가 있음을 알게 된 경우, 또는 그 위반에 대한 신고를 받거나 민원이 접수된 경우에 자료 제출을 명하거나 소속 공무원으로 하여금 조사하게 할 수 있도록 하고, 같은 조 제3항은 조사 결과 위반 사실이 인정되면 위반행위의 중지나 시정을 위하여 필요한 조치를 명할 수 있게 합니다. 그리고 그 명령을 이행하지 않으면 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제43조 제1항 제3호에 따라 3천만원 이하의 과태료 대상이 됩니다. 즉 표시 의무는 '신고 → 조사 → 명령 → 불이행 시 과태료' 의 경로를 탑니다. 개인이 할 수 있는 일이 여기서 분명해집니다. 신고와 민원이 조사의 발동 사유로 조문에 적혀 있습니다. 고영향 인공지능 쪽에는 한 겹이 더 있습니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제33조 제1항은 인공지능사업자가 자신의 인공지능이 고영향 인공지능에 해당하는지 사전에 검토하도록 하고, 필요하면 확인을 요청할 수 있게 합니다. 해당한다면 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제34조 제1항이 여섯 가지 조치를 요구합니다. 위험관리방안의 수립·운영, 기술적으로 가능한 범위에서 최종결과와 그 도출에 활용된 주요 기준 및 개발·활용에 사용된 학습용데이터의 개요 등에 대한 설명 방안의 수립·시행, 이용자 보호 방안의 수립·운영, 사람의 관리·감독, 조치 내용을 확인할 수 있는 문서의 작성과 보관, 그리고 위원회에서 심의·의결된 사항입니다. '왜 이런 결과가 나왔는지 설명해 달라' 는 요구가 조문에 근거를 갖는 자리가 두 번째 항목입니다. 다만 문언이 '기술적으로 가능한 범위에서' 이고 '설명 방안의 수립·시행' 이라는 점은 정확히 읽어야 합니다. 개별 결정마다 완전한 설명을 받을 권리를 곧바로 도출하기는 어렵고, 사업자가 설명 방안을 갖추고 시행하도록 하는 구조입니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제35조 제1항의 영향평가도 마찬가지로 '노력하여야 한다' 로 되어 있고, 같은 조 제2항은 국가기관등이 고영향 인공지능을 이용하려는 경우 영향평가를 실시한 제품 또는 서비스를 우선적으로 고려하도록 정합니다. 의무가 아니라 조달에서의 우대라는 형식으로 실효를 만드는 방식입니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제30조 제3항과 제4항이 검증·인증에 대해 같은 구조를 쓰고 있습니다. 마지막으로 국외 사업자입니다. 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제4조 제1항은 국외에서 이루어진 행위라도 국내 시장 또는 이용자에게 영향을 미치는 경우에는 이 법을 적용한다고 정합니다. 그리고 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법 제36조 제1항은 국내에 주소나 영업소가 없는 인공지능사업자 중 대통령령으로 정하는 기준에 해당하는 자에게 국내대리인을 서면으로 지정해 신고하도록 하며, 같은 조 제3항은 국내대리인이 그 사항과 관련하여 이 법을 위반한 경우 그를 지정한 인공지능사업자가 그 행위를 한 것으로 본다고 정합니다. 해외 서비스라는 이유로 닿지 않는 구조가 아니라는 뜻입니다.