일론 머스크가 소유한 소셜미디어 플랫폼 X가 생성형 AI를 통해 아동 성착취물과 비동의 성적 이미지를 대량 생산·유통하는 사태에 직면했음에도, 캐나다 정부는 해당 플랫폼에 대한 별도의 제재나 사용 중단 조치를 취하지 않고 있다. 국제사회가 규제 카드를 꺼내드는 가운데, 오히려 캐나다 정부 부처와 장관들의 X 사용은 현재진행형이다.
문제의 핵심은 X의 내부 AI 모델 ‘그록(Grok)’이다. 이 시스템은 사용자의 프롬프트에 따라 여성의 사진을 옷이 벗겨진 형태로 변환하거나, 실제 인물을 성적으로 조작한 이미지를 만들어내는 데 사용돼 왔다. 더 심각한 것은 미성년자를 대상으로 한 성적 이미지 역시 생성 가능했다는 점이다. 이러한 이미지들은 비공개가 아니라 X 플랫폼 내에서 그대로 노출돼 수백만 명의 이용자에게 확산됐다. 캐나다 내 X 이용자만 약 1,400만 명으로 추산된다.
이 사태는 단순한 플랫폼 관리 실패를 넘어, 생성형 AI가 사회적 금기를 실시간으로 위반할 수 있는 구조적 위험을 드러냈다. 그럼에도 캐나다 정부의 대응은 상대적으로 조용하다. 공공안전부는 “아동 성착취물과 비동의 성적 이미지에 대해 매우 심각하게 보고 있다”는 원론적 입장만을 내놨을 뿐, X나 그록에 대한 구체적 조치 계획은 공개하지 않았다.
더욱 주목되는 지점은 정부의 실질적 행보다. AI 규제와 안전을 담당하는 에번 솔로몬 장관과, 소셜미디어 정책을 총괄하는 마크 밀러 장관을 포함해 주요 각료와 국회의원, 야당 정치인들까지 여전히 X를 주요 소통 채널로 사용하고 있다. 이는 플랫폼의 위험성을 인지하면서도, 정치적·행정적 효율성을 이유로 사용 중단을 선택하지 않고 있음을 의미한다.
반면 유럽과 영국의 움직임은 훨씬 공격적이다. 유럽연합 집행위원회는 X에 대해 그록 관련 모든 내부 문서를 보존하라고 명령하며 디지털서비스법 위반 여부를 조사 중이다. EU 대변인은 “불법이며, 용납할 수 없는 일”이라고 공개적으로 규정했다. 영국의 키어 스타머 총리는 X의 콘텐츠가 “불법”이라며 사실상 플랫폼 차단 가능성까지 언급했다. 호주, 프랑스, 아일랜드, 인도, 브라질 등도 조사나 규제 검토에 착수했다.
일론 머스크는 1월 3일 “그록을 이용해 불법 콘텐츠를 만드는 사람은 업로드와 동일한 처벌을 받게 될 것”이라고 밝혔지만, 이후에도 해당 이미지 생성은 계속되고 있다. X가 이미지 생성 기능을 유료 사용자로 제한하겠다고 했음에도, 무료 계정으로도 여전히 생성이 가능하다는 보도도 나왔다. 이는 플랫폼이 기술적으로 통제력을 상실했거나, 의도적으로 방치하고 있을 가능성을 시사한다.
캐나다 정부는 이미 비동의 딥페이크 성적 이미지의 공유를 범죄화하는 법안을 추진 중이라고 밝히며, 향후 개인정보 보호 강화 조치를 예고했다. 그러나 지금 벌어지고 있는 것은 사후 처벌의 문제가 아니라, 실시간 유통되고 있는 디지털 성범죄의 확산이다. 플랫폼 차원의 차단과 국가 차원의 집행이 동시에 작동하지 않으면, 법은 사실상 무력해진다.
결국 이 사안은 단순히 X 하나의 문제가 아니라, 정부가 글로벌 플랫폼을 어떻게 통제할 수 있는지에 대한 시험대가 되고 있다. 유럽과 영국이 규제 주권을 앞세우는 동안, 캐나다는 여전히 플랫폼 내부에서 벌어지는 AI 범죄를 보며 관망하는 위치에 서 있다.
이 침묵이 오래 지속될수록, 기술은 더 빠르게 사회의 한계를 넘어설 것이다.
