AI는 혁신의 불길을 밝히는 동시에, 그 불꽃으로 새로운 위협의 불씨를 태우고 있다. 최근 구글 위협 인텔리전스 그룹(Google Threat Intelligence Group, GTIG)이 공개한 보고서는 인공지능이 어떻게 사이버 공격의 생태계를 재편하고 있는지를 구체적으로 보여준다. 보고서에 따르면, 세계 각지의 위협 행위자들이 대규모 언어 모델(LLM)을 활용해 피싱 메일을 정교하게 작성하고, 악성 코드의 변종을 자동 생성하며, 보안 시스템을 우회하는 시나리오를 설계하고 있다.
GTIG는 이번 조사에서 “AI 도구의 대중화가 사이버 공격의 진입 장벽을 급격히 낮추고 있다”고 지적했다. 과거에는 고급 해킹 기술이나 전문 스크립트 언어를 익혀야 했지만, 이제는 몇 줄의 프롬프트로 공격용 코드를 생성하고 다국어 피싱 메일을 자동 번역할 수 있다. 이는 곧 ‘비전문가 해커’의 시대가 도래했음을 의미한다.
한국인터넷진흥원(KISA) 사이버보안정책연구단의 한 연구원은 “이전에는 숙련된 공격자만 가능했던 수준의 사회공학적 공격이 이제 누구나 가능해졌다”며 “AI의 언어적 자연스러움이 인간의 경계심을 무디게 만들고 있다”고 경고했다. 실제로 AI가 작성한 피싱 메일은 문법적 완성도와 어투의 자연스러움이 높아, 기존의 탐지 알고리즘을 우회할 가능성이 크게 높다.
국제 보안업체 체크포인트 리서치(Check Point Research) 또한 올해 초 보고서를 통해 “AI 기반 악성 코드 생성 시도가 급증하고 있으며, 일부는 상용 백신 프로그램을 우회하는 데 성공했다”고 밝혔다. 이와 함께 러시아·이란·북한 등 주요 해킹 조직이 오픈소스 AI 모델을 변형해 공격 자동화에 활용하고 있다는 사실도 드러났다.
물론 AI는 방어의 무기도 된다. AI 기반 위협 탐지, 이상 행위 분석, 침입 예측 기술 등은 이미 사이버 방어의 핵심 수단으로 활용되고 있다. 그러나 문제는 속도다. 공격의 진화가 방어 기술의 발전보다 빠르게 진행되고 있다는 점이다. 카네기멜론대학교 보안 전문가 캐서린 리(Catherine Lee) 교수는 “AI가 사이버 공간의 양날의 검이 되고 있다. 공격자는 AI로 무한히 시도하고, 방어자는 그 속도를 따라잡기 위해 다시 AI를 도입한다. 결국 이 싸움은 ‘누가 더 똑똑한 AI를 가지느냐’의 경쟁으로 바뀌고 있다”고 말했다.
이제 필요한 것은 기술이 아니라 거버넌스다. 현재 AI 오남용을 제어할 국제적 규범은 아직 초기 단계에 머물러 있고, 다크웹에서는 여전히 검열되지 않은 LLM이 공유되고 있다. 각국 정부와 산업계는 협력해 AI 위협 정보를 실시간으로 공유하고, LLM 개발 단계부터 보안을 내재화(Security by Design)해야 한다. 동시에 AI 윤리와 보안 교육을 강화해 일반 이용자 또한 AI 위협의 본질을 이해하도록 해야 한다.
AI는 인간의 창조물이지만, 그 방향을 결정하는 것은 결국 인간의 선택이다. 대규모 언어 모델은 우리가 소통하고 학습하는 방식을 혁신했지만, 동시에 공격자의 언어를 더욱 교묘하게 진화시키고 있다. 기술의 불꽃이 인류의 진보를 비출지, 아니면 위협의 불씨로 번질지는 지금 우리의 대응에 달려 있다.
