글의 순서
Part 1 | 홍승권 변호사의 "AI가 들어온 법조 현장"
Part 2 | 변호사는 AI를 어떻게 사용해야 하는가
Part 3 | AI와 변호사의 역할 분담
Part 4ㅣAI 법률상담 시대, 변호사와 AI 협업이 필요한 이유
Part 5ㅣ인공지능 기본법, 무엇이 처벌되나? 과태료 3천만원 적용 기준
글 홍승권 | 판 법률사무소 대표변호사(skh@law-pan.com)
인공지능 기본법 소회
최근 시행된 “인공지능 발전과 신뢰 기반 조성 등에 관한 기본법”은 우리 법체계 안에서 인공지능을 독립된 규율 대상으로 삼은 첫 기본법이라는 점에서 큰 의미를 갖는다. 이번 회에서는 변호사의 입장에서 소위 인공지능기본법을 살펴본 소감을 간단하게 정리해 보려고 한다.
우선 이 법은 총 6장으로 구성되어 있다. 제1장은 목적과 정의, 기본 원칙, 적용 범위를 정하는 총칙이다. 특히 인공지능에 대한 첫 기본법이라는 점에서 제2조의 정의 규정이 중요하다.
여기에는 인공지능, 인공지능 시스템, 고영향 인공지능, 생성형 인공지능, 인공지능 사업자 등의 개념을 정의하고 있다. 예컨대 고영향 인공지능은 사람의 생명, 신체의 안전 및 기본권에 중대한 영향을 미칠 우려가 있는 인공지능 시스템을 의미하며, 생성형 인공지능은 입력한 데이터의 구조와 특성을 모방하여 글, 소리, 그림, 영상 등의 결과물을 생성하는 인공지능 시스템을 말한다.
제2장은 인공지능의 건전한 발전과 신뢰 기반 조성을 위한 추진체계를 규정한다. 대통령 소속으로 국가인공지능전략위원회를 설치하고, 관련하여 인공지능정책센터와 인공지능안전연구소를 둘 수 있도록 하고 있다.
제3장은 인공지능기술개발과 산업육성에 관한 규정으로, 인공지능산업 기반 조성과 활성화를 위한 표준화 사업들과 학습용 데이터 정책, 인력 양성, 창업 지원, 국제협력 등 산업 생태계 조성 방안을 담고 있다.
제4장은 인공지능 윤리와 신뢰성 확보에 관한 조항으로, 인공지능 윤리 원칙을 대통령령으로 정할 수 있도록 하고 있다. 또한 인공지능을 이용한 서비스 제공 시 사업자에게 인공지능에 기반한 것임을 표시하도록 하고 있으며, 인공지능의 안전성 확보를 위해 사업자에게 위험관리체계 등을 구축할 의무를 부과하고 있다.
제5장은 보칙으로 인공지능에 대한 실태조사 의무를 부과하고 있으며, 그에 따라 자료 제출 요구, 사실 조사 및 시정명령 등 행정 집행 수단을 규정하여 실효성을 확보하고 있다.
마지막으로 제6장은 벌칙과 과태료에 관한 규정을 둔다. 이 부분이 아마 많은 사람들이 가장 먼저 궁금해하는 영역일 것이다.
먼저 형사처벌에 해당하는 조항으로 제42조가 있다. 이 조항은 국가인공지능위원회 관련 비밀유지의무를 규정한 제7조 제9항을 위반한 경우에만 적용된다. 즉, 위원회 위원이나 관계 공무원 등 직무 수행 과정에서 비밀을 알게 된 자가 그 비밀을 누설하거나 직무 목적 외로 사용한 경우, 3년 이하의 징역 또는 3천만 원 이하의 벌금에 처해질 수 있다.
예를 들어 위원회 심의 과정에서 제출된 기업의 인공지능 안전성 평가자료를 외부에 유출하거나, 정책 검토 과정에서 알게 된 내부 정보를 사적으로 이용하는 경우가 이에 해당할 수 있다. 일반 기업이 단순히 인공지능 서비스를 운영하는 과정에서 곧바로 형사처벌을 받을 가능성은 낮다.
반면 제43조는 과태료 규정을 두고 있으며, 이것이 실제로 보다 직접적인 제재 수단이 될 것으로 보인다. 3천만 원 이하의 과태료가 부과될 수 있는 경우는 다음의 세 가지다.
첫째, 제31조 제1항에 따른 투명성 확보 의무를 위반한 경우이다. 사업자가 고영향 인공지능이나 생성형 인공지능을 활용한 제품, 서비스를 제공하면서 그 사실을 사전에 이용자에게 고지하지 않은 경우가 여기에 해당한다. 예컨대 AI 챗봇이 상담을 수행함에도 이를 명확히 알리지 않거나, 생성형 인공지능이 작성한 콘텐츠임을 표시하지 않은 채 배포하는 경우가 문제될 수 있다.
둘째, 제36조 제1항에 따른 국내 대리인 지정 의무를 위반한 경우이다. 일정 요건을 충족하는 국내에 주소 또는 영업소가 없는 인공지능 사업자는 국내에 대리인을 지정해야 하는데, 이를 이행하지 않을 경우 과태료 대상이 된다.
셋째, 제40조 제3항에 따른 중지명령 또는 시정명령을 이행하지 않은 경우이다. 행정청이 사실조사 결과 위반사항을 확인하여 개선을 명령했음에도 이를 따르지 않는다면 과태료가 부과될 수 있다.
인공지능 기본법에 대하여 개괄적으로 살펴보았다. 아직 위 법의 세부적인 사항들을 규정할 시행령이 제정되지 않았으므로 명확한 기준이 확립되지는 않았지만, 빠르게 변화하는 인공지능 산업에서 일정한 기준이 정립되었다는 점에서 큰 의미가 있다고 생각한다.
앞으로 인공지능 산업을 담당하는 분들께서는 보다 적극적인 질의와 사전 상담을 통해 불확실성을 줄여 나가는 것이 중요하다고 생각되며, 이 글이 조금이나마 도움이 되었기를 바란다.
