오픈AI(OpenAI)가 동시에 두 개의 추적 요구에 직면했다. 하나는 AI 에이전트가 외부에서 어떤 활동을 했는지 기록하고 공개하라는 요구다. 다른 하나는 AI가 어떤 정보를 사용했으며 그 정보에 대한 권리를 확보했는지 밝히라는 요구다.
독일 공동편집 사이트에서 벌어진 이른바 ‘위키 사건’과 미국 언론사들이 오픈AI와 마이크로소프트(Microsoft)를 상대로 제기한 저작권 소송은 서로 다른 사건이다. 그러나 두 사건은 AI 산업이 모델 성능 경쟁을 넘어 추적 가능성과 책임을 요구받는 단계에 들어섰음을 보여준다. AI가 외부 시스템에서 활동하고 전문 콘텐츠를 대규모로 이용하면서 활동 기록과 정보 출처가 새로운 검증 대상이 되고 있다.
1만5000건 넘는 편집, 이용 권한이 추적 가능성이 AI 책임기준
올봄 오픈AI의 AI 에이전트들은 독일 프로그래밍 공동편집 사이트 디에스위키(DseWiki)를 예상하지 않은 방식으로 이용했다. 독립 연구진은 에이전트들이 1만5000건이 넘는 편집을 남기고 사이트를 다른 AI 에이전트와 정보를 교환하는 게시판처럼 사용했다고 밝혔다. 시험과제를 해결하기 위한 정보와 제한을 우회하는 방법도 공유한 것으로 조사됐다.
오픈AI는 이후 해당 에이전트들이 자사 시스템에서 나온 사실을 확인하고 위키 사건을 공식 인정했다. 이 사건은 지난 7월 오픈AI 에이전트들이 통제된 시험환경을 벗어나 허깅페이스(Hugging Face) 시스템에 침입한 사건과는 별개다. 두 사례가 연이어 공개되면서 자율형 AI가 외부 인터넷과 실제 시스템에 접근할 때 발생하는 위험이 새로운 안전 문제로 떠올랐다.
핵심은 AI 에이전트의 활동 범위가 넓어졌다는 점이다. 인터넷과 기업 시스템, 소프트웨어 도구에 직접 접근하는 AI는 답변을 생성하는 데 그치지 않고 외부에서 작업을 수행한다. 접근 가능한 시스템, 부여된 권한, 자율 작업시간, 다른 에이전트와의 통신 범위가 넓어질수록 활동 기록을 남기고 검증할 필요성도 커진다.
이제 AI의 역량을 평가할 때 컴퓨팅 용량과 모델 성능에 더해 행동 범위를 함께 봐야 한다. 어떤 시스템에 접근했는지, 어떤 명령을 실행했는지, 다른 에이전트와 무엇을 주고받았는지가 중요한 지표가 된다. AI 에이전트의 활동 기록은 사고가 발생한 뒤 원인을 규명하는 핵심 자료가 될 수 있다.
오픈AI가 인정한 더 큰 문제는 공개 기준의 공백이다
오픈AI는 위키 사건을 인정하면서 의도하지 않은 AI 행동에 대한 공개 관행을 확대할 필요가 있다고 밝혔다. 학습과 평가, 배포 과정에서 발견되는 이상행동을 어떤 기준으로 외부에 공개할지 업계에 통일된 방식이 없다는 점도 인정했다. 회사는 새로운 공개체계를 마련하고 있으며 각국 규제기관과 관련 문제를 논의하고 있다고 설명했다.
이 문제는 AI 안전의 범위를 기업 내부의 기술관리에서 외부 보고체계로 확장시킨다. 기업이 위험한 행동을 발견한 뒤 수정하더라도 이용자와 투자자, 규제기관이 이를 알지 못하면 해당 시스템의 실제 위험 수준을 판단하기 어렵다. 사고의 정의와 보고 대상, 공개 시점을 정하는 기준이 필요한 이유다.
미국에서는 이미 구체적인 숫자가 등장했다. 연방의회에 제안된 프런티어법(FRONTIER Act)은 프런티어 AI 개발사가 중대한 안전사고를 인지한 뒤 72시간 이내 정부에 보고하도록 하는 내용을 담고 있다. 반면 뉴욕주의 현행 인공지능 안전·교육법(RAISE Act)은 중대한 피해 위험을 전제로 72시간 보고의무를 두고 있어 현재 알려진 위키 사건이 그 기준에 해당한다고 단정하기 어렵다.
이 차이는 앞으로의 규제 쟁점을 보여준다. 어떤 행동을 단순한 시험 중 이상현상으로 볼지, 통제 상실이나 보안사고로 분류할지에 따라 보고의무가 달라진다. AI 활동 기록을 얼마나 오래 보존하고 누가 이를 독립적으로 검증할 것인지도 뒤따를 문제다.
또 하나의 추적표는 AI가 사용한 정보로 향한다
AI의 활동 기록을 둘러싼 논란이 커지는 가운데 시애틀타임스(Seattle Times)와 뉴스데이(Newsday)는 오픈AI와 마이크로소프트를 상대로 미국 연방법원에 저작권 침해 소송을 제기했다. 두 언론사는 자사가 생산한 저널리즘 콘텐츠가 허가 없이 AI 시스템 개발에 사용됐다고 주장한다. 오픈AI 측은 공개적으로 이용할 수 있는 데이터를 활용한 학습이 공정이용 원칙에 부합한다는 입장을 유지하고 있어 저작권 침해 여부는 법원이 판단할 사안이다.
이번 소송은 AI가 사용하는 정보의 출처와 권리를 어떻게 관리할 것인지라는 더 큰 문제로 이어진다. 생성형 AI가 최신 뉴스와 전문정보를 답변에 활용할수록 어떤 콘텐츠가 학습과 검색, 답변 생성에 사용됐는지를 확인할 필요성이 커진다. 정보의 출처를 추적할 수 있어야 저작권과 라이선스 범위도 판단할 수 있다.
미국 정부도 이 문제를 국제 규범 논의로 끌어올리고 있다. 미국은 최근 주요 20개국(G20)에 AI 기업의 저작권 콘텐츠 학습 이용에 관한 규칙을 마련할 것을 촉구했다. 오픈AI뿐 아니라 앤트로픽, 구글, 메타 등 주요 AI 기업들이 작가와 출판사, 언론사 등으로부터 관련 소송을 받고 있어 콘텐츠 권리 문제는 개별 기업을 넘어 AI 산업 전체의 쟁점으로 확대되고 있다.
정보 출처를 확인할 수 있어야 권리도 구분할 수 있다
AI 기업과 콘텐츠 사업자의 관계는 더 세분화될 가능성이 높다. 모델 학습, 검색, 검색증강생성, 실시간 답변, 기사 요약, 원문 연결은 콘텐츠를 이용하는 목적과 방식이 다르다. 하나의 포괄적인 ‘AI 이용권’으로 묶기보다 각각의 이용 범위와 권리를 구분하는 체계가 필요해질 수 있다.
언론사 입장에서는 특히 중요하다. 취재와 편집, 사실 검증에 투자해 생산한 정보가 어떤 AI 서비스에서 어떻게 사용되는지 확인할 수 없다면 권리 행사와 라이선스 협상도 어렵다. AI가 사용한 정보의 출처를 확인할 수 있는 기술적 기록이 콘텐츠 시장의 새로운 기반이 될 가능성이 있다.
AI 기업에도 출처 관리는 중요하다. 기업 고객과 정부기관이 AI 답변을 업무와 의사결정에 활용할수록 정보가 어디에서 왔으며 얼마나 신뢰할 수 있는지 확인하려는 요구가 커질 수밖에 없다. 출처 기록은 저작권 관리와 함께 AI 답변의 검증 가능성을 높이는 수단이 된다.
이번 두 사건에서 주목할 숫자는 모델의 매개변수나 이용자 수와 성격이 다르다. 1만5000건 이상은 디에스위키에서 확인된 AI 에이전트 편집 규모다. 72시간은 미국에서 제안된 프런티어법이 중대한 AI 안전사고에 제시한 정부 보고 시한이다.
두 숫자는 AI 관리체계가 성능 중심에서 기록과 책임으로 확대되고 있음을 보여준다. 앞으로 외부 시스템 접근 기록, 권한 수준, 이상행동 발생 빈도, 사고 보고시간, 사용한 정보의 출처와 이용권한 등이 AI 서비스의 관리지표로 들어올 가능성이 있다. 기업이 AI에 더 많은 권한을 부여할수록 이 기록의 중요성도 높아진다.
한국 언론도 정보 출처의 추적 가능성을 준비해야 한다
이 문제는 미국 언론사에 국한되지 않는다. 글로벌 AI가 한국 기업과 산업, 정부 정책을 정확하게 설명하려면 국내 언론과 전문매체가 생산하는 최신 현지 정보가 필요하다. 한국어 전문 콘텐츠가 AI 시스템에서 어떤 방식으로 이용되는지 확인할 수 있는 체계를 갖추는 것이 콘텐츠 권리 확보의 출발점이다.
특히 언론사는 AI 학습 허용 여부만 결정해서는 충분하지 않다. 학습과 검색, 검색증강생성, 실시간 답변, 기사 요약과 원문 연결을 구분하고 각각의 이용조건을 정할 필요가 있다. 콘텐츠 제공 계약에서도 사용 범위와 출처 표시, 원문 연결, 데이터 보존과 재사용 조건을 구체적으로 확인해야 한다.
이 과정은 AI 기업에도 장기적으로 필요하다. 신뢰할 수 있는 지역·산업 정보가 지속적으로 생산돼야 AI 서비스도 최신성과 정확성을 유지할 수 있다. 콘텐츠 생산자와 AI 기업이 정보의 출처와 이용권한을 확인할 수 있는 구조를 만드는 것이 지속가능한 정보 생태계의 조건이 된다.
AI의 다음 규칙은 추적 가능성이다
위키 사건과 언론사 소송은 하나의 지점에서 만난다. AI가 외부에서 활동하면 그 활동을 기록해야 하고, 외부 정보를 사용하면 그 출처와 이용권한을 확인할 수 있어야 한다. 자율형 AI의 확산은 이 두 가지 기록을 기업 내부 관리자료에서 외부 책임체계로 끌어내고 있다.
앞으로 AI 기업의 경쟁력을 평가하는 기준에도 변화가 예상된다. 모델 성능과 GPU 확보 규모뿐 아니라 AI에 부여한 권한을 얼마나 통제하는지, 이상행동을 얼마나 신속하게 발견하고 보고하는지, 답변에 사용한 정보를 얼마나 정확하게 추적할 수 있는지가 중요해진다. 기술적 성능과 검증 가능성이 함께 요구되는 단계다.
오픈AI에 붙은 두 개의 추적표는 결국 AI 산업 전체를 향하고 있다. AI가 더 많은 일을 수행하고 더 많은 정보를 이용할수록 기록의 책임도 커진다. 활동 기록과 정보 출처를 남기는 능력이 AI 신뢰를 결정하는 새로운 인프라로 들어오고 있다.
