인공지능(AI)이 일상과 산업 전반으로 빠르게 확산되는 가운데, AI가 한국 사회와 문화적 맥락을 얼마나 안전하고 정확하게 이해하는지를 검증할 수 있는 국내 최대 규모의 평가 체계가 공개됐다. 업계에서는 이번 연구가 한국형 AI 안전성 기준 마련과 글로벌 AI 신뢰성 확보에 중요한 전환점이 될 것으로 평가하고 있다.
16일 업계에 따르면, KT는 고려대학교와 공동으로 한국어 기반 멀티모달 대형언어모델(MLLM)의 안전성을 평가하는 벤치마크 'KSAFE-MM'을 개발해 공개했다.
이번 벤치마크는 텍스트뿐 아니라 이미지와 음성 등 다양한 정보를 동시에 이해하는 멀티모달 AI 모델을 대상으로 한다. 기존 글로벌 안전성 평가 기준이 서구권 문화와 사회적 배경에 초점을 맞췄다면, KSAFE-MM은 한국 사회의 특수성과 문화적 맥락을 반영한 것이 가장 큰 특징이다.
평가 데이터는 글로벌 공통 위험 요소를 한국 상황에 맞게 재구성한 'KSAFE-MM-G'와 전세사기, 독도 관련 갈등 등 국내 사회 이슈를 반영한 'KSAFE-MM-C'로 구성됐다. 총 1만4135개 평가 샘플이 포함돼 국내 최대 규모의 한국어 멀티모달 안전성 데이터셋으로 평가받는다.
특히 연구진은 데이터 구축 과정 전반을 자동화한 파이프라인을 적용해 주목받고 있다. 기존 AI 안전성 벤치마크는 전문가의 수작업 검수가 필수적이어서 시간과 비용 부담이 컸다. 반면 KSAFE-MM은 민감 이슈 수집부터 질의 생성, 이미지 합성, 탈옥(Jailbreak) 시나리오 제작까지 자동화해 효율성을 크게 높였다.
업계에서는 이러한 방식이 AI 안전성 검증의 새로운 표준으로 자리 잡을 가능성에 주목하고 있다. 특정 국가나 문화권에 맞춘 평가 체계를 보다 신속하게 구축할 수 있어 글로벌 AI 기업들의 현지화 전략에도 활용될 수 있기 때문이다.
실제로 KT와 고려대 연구진은 동일한 방식을 일본어 환경에 적용한 실험을 통해 다양한 국가와 문화권으로의 확장 가능성을 확인했다. 이에 따라 향후 아시아권을 비롯한 글로벌 시장에서 국가별 AI 안전성 검증 체계를 구축하는 데 활용될 것으로 전망된다.
전문가들은 생성형 AI의 영향력이 커질수록 기술 성능뿐 아니라 안전성과 윤리성 검증이 핵심 경쟁력이 될 것으로 보고 있다. 특히 멀티모달 AI는 텍스트 외에도 이미지와 음성 정보를 처리하는 만큼 허위정보 생성, 편향성, 유해 콘텐츠 노출 등의 위험성을 보다 정교하게 점검할 필요가 있다는 지적이 제기돼 왔다.
이번 벤치마크 공개는 국내 AI 산업 전반에도 긍정적인 영향을 미칠 것으로 예상된다. 기업들은 서비스 출시 전 안전성을 검증할 수 있는 기준을 확보하게 되고, 학계는 관련 연구를 위한 공통 데이터셋을 활용할 수 있게 된다. 정부 차원에서도 AI 규제 및 신뢰성 정책 수립 과정에서 참고 자료로 활용될 가능성이 크다.
AI 업계 관계자는 "글로벌 AI 경쟁이 성능 중심에서 신뢰성과 안전성 중심으로 이동하고 있다"며 "한국 사회의 문화적 특성과 사회적 민감성을 반영한 평가 체계는 국내 AI 산업의 경쟁력을 높이는 중요한 기반이 될 것"이라고 말했다.
KT는 최근 다국어 안전성 평가체계 공개에 이어 이번 연구까지 선보이며 책임 있는 AI(Responsible AI) 분야 연구를 확대하고 있다. 회사는 향후 AI 안전성 검증 기술과 평가 체계를 지속적으로 고도화해 국내외 AI 생태계 발전에 기여한다는 방침이다.
박재형 KT AX미래기술원 프론티어 AI랩장은 "AI 안전성은 기술 발전과 함께 반드시 확보해야 할 핵심 가치"라며 "KSAFE-MM이 한국어 기반 AI 안전성 검증의 대표 기준으로 자리 잡고 학계와 산업계의 연구 활성화에도 도움이 되길 기대한다"고 말했다.
