마이크로소프트가 AI 반도체 경쟁의 새로운 기준으로 전력 효율을 제시했다. 회사는 12일 차세대 자체 AI 가속기 'Azure Maia 300'을 공개하고 2027년부터 수 기가와트 규모로 자체 반도체 시스템을 확대하겠다고 발표했다. 핵심은 제한된 전력으로 더 많은 AI 서비스를 제공해 운영비용을 낮추는 것이다. 반도체 확보에 집중됐던 AI 인프라 경쟁이 실제 서비스의 생산성과 수익성을 높이는 단계로 확대되고 있다.
마이크로소프트는 Maia 300이 주요 GPU 기반 시스템보다 전력 1메가와트당 AI 처리량을 약 40% 높일 것으로 예상했다. AI 모델이 텍스트를 처리하고 생성하는 기본 단위인 토큰을 기준으로 측정한 수치다. 96개 가속기로 구성된 서버 랙의 처리량은 이전 세대인 Maia 200보다 최대 7배 높아질 것으로 전망했다. 다만 이 수치는 회사가 제시한 성능 목표로, 실제 운영환경에서의 검증이 필요하다.
AI 반도체 경쟁, 연산 성능에서 운영 효율로
마이크로소프트 클라우드·AI 부문을 이끄는 스콧 거스리(Scott Guthrie) 수석부사장은 공식 발표에서 AI가 모든 애플리케이션과 업무 프로세스의 기반이 되고 있다고 강조했다. 기업들이 대화형 AI를 넘어 복잡한 업무를 수행하는 AI 에이전트를 도입하면서 데이터센터의 연산량과 전력 수요가 함께 증가하고 있다는 설명이다. 마이크로소프트는 Maia 300을 복잡한 추론과 장문 처리, 여러 단계의 업무를 수행하는 AI 서비스에 최적화했다고 밝혔다.
AI 서비스가 확대되면서 반도체 구매비용뿐 아니라 전력과 냉각, 메모리, 네트워크 운영비용도 중요해지고 있다. 같은 전력으로 더 많은 요청을 처리하면 서비스당 비용을 낮추고 데이터센터의 수익성을 개선할 수 있다. 마이크로소프트는 이를 위해 반도체와 메모리, 네트워크를 하나의 시스템으로 설계했다. Maia 300에는 TSMC의 N2P 공정과 HBM4 메모리를 적용해 연산과 데이터 처리 효율을 높이는 구조를 채택했다.
엔비디아 의존도 축소, 한국 반도체에도 새로운 변수
마이크로소프트의 자체 반도체 확대는 엔비디아 중심의 AI 공급망에도 변화를 가져올 수 있다. 주요 클라우드 기업들은 엔비디아 GPU를 구매하면서 동시에 자체 칩을 개발해 비용과 공급망을 다변화하고 있다. 특히 AI 추론 서비스는 업무 유형에 따라 필요한 연산 성능과 메모리 구성이 달라 자체 반도체를 활용할 여지가 크다. 이는 엔비디아 제품을 전면 대체하기보다 서비스별로 적합한 반도체를 선택하는 전략에 가깝다.
한국 반도체 산업에도 새로운 기회가 열릴 수 있다. Maia 300의 HBM4 적용은 고대역폭 메모리가 AI 학습뿐 아니라 추론 인프라에서도 중요해지고 있음을 보여준다. 삼성전자와 SK하이닉스에는 클라우드 기업의 자체 AI 칩에 적합한 메모리와 첨단 패키징 기술을 확보하는 것이 경쟁 과제가 될 수 있다. 다만 실제 공급업체와 물량, 가격 조건은 별도로 확인해야 한다.
전력 효율 개선이 데이터센터의 전체 전력 소비 감소를 의미하지는 않는다. 반도체가 더 효율적으로 작동하더라도 AI 서비스 수요가 빠르게 증가하면 총전력 사용량은 오히려 늘어날 수 있다. 따라서 AI 인프라의 경제성을 판단하려면 반도체 성능과 함께 전력 확보 비용, 장비 가동률, 투자비 회수 기간을 살펴야 한다.
Maia 300의 상업적 성과는 2027년 실제 배치 이후 확인될 전망이다. 발표된 성능 목표가 운영비용 절감으로 이어지는지, 자체 반도체가 외부 GPU보다 경제적인지 검증해야 한다. AI 산업의 경쟁력은 앞으로 더 많은 반도체를 확보하는 능력뿐 아니라 같은 전력과 자본으로 얼마나 많은 유료 서비스를 안정적으로 제공할 수 있는지에 따라 평가될 것이다.
