HBM이 AI 반도체의 메모리 병목을 완화했다면, 초거대 AI 시대의 다음 병목은 ‘연결’에서 나타나고 있다. 수천 개의 GPU와 HBM을 하나의 클러스터로 묶는 데이터센터에서는 개별 반도체의 연산 능력만큼이나 칩과 칩, 서버와 서버 사이에서 얼마나 빠르고 적은 전력으로 데이터를 이동시키느냐가 전체 AI 시스템의 성능을 좌우하기 시작했기 때문이다.

이 변화는 AI 반도체 경쟁의 무대가 개별 칩에서 랙(Rack)과 포드(Pod), 나아가 데이터센터 전체 시스템으로 확대되고 있음을 보여준다.

SK하이닉스가 글로벌 연구진과 함께 세계적 학술지 ‘네이처 일렉트로닉스(Nature Electronics)’에 발표한 CPO(Co-Packaged Optics) 연구는 이러한 변화 이후의 AI 인프라를 겨냥한다.

SK하이닉스 홍승훈 AI Infra 팀장과 미국 버지니아대학교(UVA) 이규상 교수가 교신저자로 참여했으며, 일리노이대학교 어바나-샴페인(UIUC), 난양공과대학교(NTU), 매사추세츠공과대학교(MIT), 연세대학교 연구진이 공동 연구를 수행했다.

논문의 핵심은 단순하다. 전기로 이동시키던 데이터를 점차 ‘빛’으로 옮기자는 것이다.

 

 

GPU는 빨라지는데 연결 속도는 따라가지 못한다

생성형 AI 확산 과정에서 HBM은 GPU와 메모리 사이의 데이터 병목을 줄이는 핵심 기술로 자리 잡았다. 하지만 AI 모델이 커지면서 문제의 범위도 달라졌다.

SK하이닉스가 소개한 연구에 따르면 하드웨어의 연산 성능은 2년마다 약 3배씩 증가하는 반면 인터커넥트 대역폭 증가 폭은 약 1.4배에 그친다. 연산장치가 데이터를 처리하는 능력보다 데이터를 전달하는 능력의 증가 속도가 훨씬 느린 것이다.

특히 데이터가 반도체 패키지를 벗어나 서버와 랙 사이를 이동하면 기존 구리 기반 전기 연결의 한계가 커진다. 거리가 길어지고 전송속도가 높아질수록 신호 손실을 보완하기 위한 회로가 필요하고 전력 소비와 지연시간도 증가한다.

GPU의 연산능력을 계속 높이더라도 데이터가 제때 공급되지 못하면 시스템 전체 성능 향상에는 한계가 생기는 ‘대역폭 장벽(Bandwidth Wall)’이다.

CPO는 이 문제를 해결할 후보 기술 가운데 하나다.

광 송수신기와 프로세서를 하나의 패키지에 가깝게 배치해 고속 전기신호가 이동해야 하는 거리를 최대한 줄이고, 이후 구간에서는 광신호로 데이터를 전달한다.

전기 배선보다 장거리 고속전송에 유리한 빛을 활용함으로써 칩을 넘어 랙과 포드 단위까지 높은 대역폭과 에너지 효율을 유지하겠다는 접근이다.

 

 

목표는 100Tb/s 이상, 소비전력은 1pJ/bit 이하

이번 연구가 주목되는 또 다른 이유는 CPO의 개념을 설명하는 데 그치지 않고 차세대 AI 시스템에 필요한 구체적인 기술 목표를 제시했다는 점이다.

연구진은 노드당 100Tb/s 이상의 대역폭과 1pJ/bit 미만의 에너지 소비, 10ns 미만의 칩 간 지연시간을 주요 목표로 제시했다.

패키징 역시 현재의 2D 구조에서 2.5D 인터포저를 거쳐 3D 이종집적으로 발전하는 경로를 제시했다. 결국 광통신 기술이 데이터센터 네트워크의 외부 장치에 머무는 것이 아니라 반도체 패키지 내부로 계속 접근하는 방향이다.

여기서 SK하이닉스의 CPO 연구는 HBM과 연결된다.

HBM이 프로세서 바로 옆에 메모리를 배치해 데이터 이동거리를 줄였다면, CPO는 프로세서 주변에 광 연결을 끌어들여 시스템 사이에서 발생하는 데이터 이동 문제까지 해결하려는 시도라고 볼 수 있다.

 

결국 ‘메모리도 빛으로 연결한다’

연구진이 제시한 장기적인 방향은 한 단계 더 나아간다.

광 연결을 프로세서 사이의 통신에만 사용하는 것이 아니라 메모리 인터페이스까지 확대하는 ‘옵틱스 중심(Optics-Centric) 아키텍처’다.

이 구조에서는 광 인터포저를 이용해 연산자원인 XPU Pool과 Memory Pool을 광신호로 직접 연결한다. 여러 AI 가속기가 하나의 거대한 메모리 자원을 보다 유연하게 공유할 수 있는 구조다.

이는 현재 AI 서버가 안고 있는 물리적인 패키징 제약을 넘어서는 방식이 될 가능성이 있다. GPU와 메모리를 무조건 하나의 패키지 주변에 밀집시키는 대신 연산과 메모리 자원을 분리하고 필요한 자원을 고속 광연결을 통해 활용하는 방향으로 시스템 구조 자체를 바꿀 수 있기 때문이다.

AI 모델이 계속 대형화될 경우 중요한 것은 개별 GPU나 HBM의 성능만이 아니다. 수많은 연산장치와 메모리를 얼마나 효율적으로 하나의 거대한 컴퓨팅 자원처럼 작동하게 만드느냐가 더 중요해진다.

 

 

SK하이닉스의 시야도 ‘HBM 제품’에서 ‘AI 시스템’으로

이 지점에서 이번 논문은 SK하이닉스의 사업 방향을 읽을 수 있는 신호이기도 하다.

SK하이닉스는 HBM 시장의 성장으로 AI 반도체 공급망에서 영향력을 확대해 왔다. 그러나 AI 인프라가 커질수록 메모리 성능만 높여서는 시스템 전체의 병목을 해결하기 어렵다.

메모리와 프로세서, 광소자, 패키징, 인터커넥트 기술을 개별 부품이 아니라 하나의 시스템으로 설계하는 ‘Co-design’이 중요해지는 이유다.

이규상 UVA 교수는 “연산칩 성능이 향상돼도 칩 사이의 데이터 이동 능력이 이를 따라가지 못하면 시스템 전체 성능은 올라가지 않는다”며 구리 배선을 대신해 빛으로 데이터를 이동시키는 기술을 유력한 확장 경로로 평가했다.

다만 CPO가 곧바로 기존 연결 기술을 대체하는 것은 아니다. 저전력 광소자의 집적부터 프로토콜, 패키징, 신뢰성까지 상용화를 위해 해결해야 할 기술적 과제가 남아 있다.

그럼에도 연구진은 광 인터커넥트 기술이 이미 실험실 연구를 넘어 산업화 초기 단계에 진입한 것으로 보고 있다.

AI 인프라 경쟁도 이에 따라 달라질 가능성이 크다. 지금까지의 경쟁이 GPU와 HBM처럼 개별 반도체의 연산·메모리 성능을 높이는 데 집중됐다면, 다음 단계에서는 수천 개의 반도체를 하나의 컴퓨터처럼 움직이게 만드는 연결 기술과 시스템 아키텍처가 중요해진다.

HBM으로 AI 메모리 병목을 줄였던 SK하이닉스가 이제 광 인터커넥트와 메모리를 결합한 시스템 구조를 연구하는 이유도 여기에 있다.

AI 반도체의 다음 전장은 더 빠른 ‘칩’만이 아니라, 그 칩들을 얼마나 빠르고 효율적으로 연결하느냐를 둘러싼 ‘시스템’ 경쟁으로 이동하고 있다.