리플렉션AI가 5일 공개한 오픈웨이트 AI 모델 ‘Beam’의 성능 비교 자료. 회사는 Beam이 코딩·에이전트 작업과 추론 분야에서 주요 오픈웨이트 모델과 경쟁할 수 있는 성능을 보였다고 밝혔다. / 자료=Reflection AI
AI 산업의 자본과 책임 구조가 달라지고 있다. 월가는 앤트로픽의 AI 칩 확보에 600억 달러를 조달하고, 미국에서는 기업이 직접 운영할 수 있는 대형 오픈웨이트 모델이 등장했다. 뉴욕시의회는 주요 AI 기업 관계자와 전직 연구자들을 불러 안전조치와 통제 책임을 따졌다. 6일 현재 세 사건은 AI 개발사가 감당해온 투자와 운영, 안전의 부담을 금융시장과 이용기업, 규제기관이 함께 나눠 갖기 시작했음을 보여준다.
AI 칩에 600억 달러의 금융이 붙었다
뱅크오브아메리카, 씨티그룹, 모건스탠리 등 월가 금융회사들이 앤트로픽의 구글 AI 반도체 임차를 지원하는 600억 달러 규모의 금융 패키지를 시장에 공급하기 시작했다. 이 가운데 420억 달러는 선순위 담보대출로 구성되고 브로드컴이 잔존가치 지원을 제공한다. 나머지 180억 달러는 후순위 부채이며 블랙스톤이 이 가운데 90억 달러를 약정한 것으로 전해졌다.
AI 연산 인프라의 자금조달 방식도 달라졌다. 자체 현금과 회사채만으로 감당하기 어려운 규모가 되면서 은행 대출과 보증, 리스, 사모자본이 AI 칩 투자에 결합하고 있다. 앤트로픽 공동창업자 겸 최고경영자 다리오 아모데이(Dario Amodei)는 기업들이 AI 수요를 잘못 예측할 경우 막대한 자본지출이 “고통스러운 조정”으로 이어질 수 있다고 경고해왔다. AI 수요 전망이 빗나갈 경우 손실은 모델 개발사에 그치지 않고 대출기관과 투자자, 인프라 사업자까지 연결될 수 있다.
미국, 중국이 앞선 ‘오픈모델’ 시장에 다시 뛰어들다
엔비디아가 투자한 미국 AI 스타트업 리플렉션AI(Reflection AI)는 5일 첫 오픈웨이트 모델 ‘Beam’을 공개했다. 총 5,010억 개의 매개변수 가운데 작업마다 230억 개를 활성화하는 전문가혼합 방식의 모델로, 코딩과 추론, 에이전트 작업에 초점을 맞췄다.
리플렉션AI는 Beam으로 중국의 주요 오픈웨이트 모델과 경쟁하겠다는 목표를 내걸고 현재 최종 안전성 평가와 검증을 진행하고 있다. 공동창업자 겸 최고경영자 미샤 라스킨(Misha Laskin)은 미국이 오픈 인텔리전스 분야에서 다시 주도권을 확보할 수 있음을 보여주겠다는 취지로 모델 개발 방향을 설명했다.
Beam의 성능은 독립적인 검증이 더 필요하다. 그러나 더 주목할 부분은 배포 방식이다. 폐쇄형 모델에서는 개발사가 모델 운영과 접근권한을 관리하지만, 오픈웨이트 모델은 기업과 개발자가 자체 시스템에서 직접 운영할 수 있다. 중국 기업들이 이 시장에서 영향력을 넓혀온 가운데 미국 기업의 대응이 본격화되면서 경쟁의 초점도 모델 성능뿐 아니라 기업과 개발자의 시스템에 어떤 모델이 실제로 채택되느냐로 넓어지고 있다.
뉴욕시의회, OpenAI·Anthropic·Google·Meta의 안전조치 검증
뉴욕시의회는 5일 AI 안전을 주제로 전체위원회 청문회를 열고 OpenAI와 Anthropic, Google, Meta 관계자와 전직 AI 연구자들을 출석시켜 최첨단 AI의 위험과 기업의 안전조치, 통제 실패에 대한 책임을 따졌다. 주요 AI 기업들이 자체적으로 정해온 안전 기준과 대응체계가 공적인 검증 대상에 오른 것이다.
OpenAI와 Anthropic에서 근무했던 연구자 제이컵 콕슨(Jacob Coxon)은 청문회에서 현재의 개발 속도가 계속될 경우 인간이 AI 시스템에 대한 통제력을 잃을 위험이 있다고 경고했다. 그는 인간이 통제하기 어려운 시스템이 등장할 가능성을 거론하며 기업 내부의 안전장치만으로 충분한지에 대한 우려를 제기했다.
이 전망은 AI 전문가 사회의 합의가 아니라 강한 위험 시나리오 가운데 하나다. 그러나 뉴욕시의회가 주요 AI 기업의 안전조치를 직접 검증하고 제3자 평가와 내부고발자 보호 등을 포함한 규제 방안을 검토하고 있다는 사실은 의미가 다르다. AI 기업이 스스로 정하고 평가하던 안전 기준에 외부 검증과 책임 규정이 더해질 가능성이 커지고 있기 때문이다.
세 사건에서 주목할 것은 AI의 비용과 위험을 부담하는 주체가 많아졌다는 사실이다. 앤트로픽의 연산 인프라에는 은행과 사모자본이 자금을 대고, 오픈웨이트 모델은 기업과 개발자가 직접 운영하며, 규제기관은 AI 기업이 자체적으로 관리해온 안전 기준을 검증하려 한다.
이 구조에서는 AI 산업의 성장과 함께 위험도 여러 주체에 배분된다. AI 수요가 예상에 못 미치면 금융기관과 투자자가 자본위험에 노출되고, 오픈웨이트 모델의 활용이 늘면 운영기업의 보안과 관리 책임도 커진다. 안전사고가 발생하면 개발사의 내부 기준만으로 책임 범위를 결정하기도 어려워진다.
따라서 앞으로 봐야 할 숫자는 모델의 매개변수나 벤치마크 점수만이 아니다. 누가 AI 투자에서 수익을 가져가고, 수요가 빗나갔을 때 누가 손실을 부담하며, 사고가 났을 때 누가 책임지는지가 AI 산업의 실제 경제성을 가르는 기준이 되고 있다.
