삼성전자, AI칩 위에 메모리 쌓는 ‘zHBM’ 공개…HBM5보다 8배 빠르다

AI 반도체의 병목이 연산칩보다 메모리 쪽에서 커지고 있다는 진단이 잇따르는 가운데, 국내 양대 메모리 기업이 미국 캘리포니아 지역에서 열린 세계 최대 메모리·스토리지 행사 무대에 나란히 올랐다. 두 회사 모두 최근 수년 사이 AI 추론 과정에서 소비되는 토큰량이 급격히 불어나면서 기존 구조의 메모리로는 처리 속도를 감당하기 어려워졌다는 데 의견을 같이했다. 발표는 현지 시각 기준 전날 진행됐다.

삼성전자가 내세운 해법은 메모리를 가로·세로가 아니라 높이 방향으로 쌓는 것이다. zHBM은 기존에 가속기 옆자리에 두던 고대역폭메모리를 아예 칩 위에 직접 적층해 신호가 오가는 거리 자체를 줄인 구조다. 웨이퍼를 통째로 붙이는 접합 기술과 구리를 직접 연결하는 본딩 방식을 적용해 배선 밀도를 대폭 높였고, 그 결과 열 저항도 개발 중인 HBM5 대비 10~25% 수준으로 낮아졌다. 발표를 맡은 임원은 범용 제품보다는 프로세서 업체와 처음부터 함께 설계하는 맞춤형 방식으로 개발하겠다고 밝혔다.

저장장치 쪽에서도 3차원 전략이 이어졌다. 삼성전자는 400단 이상을 쌓아 올린 10세대 V낸드를 업계 최초로 공개했으며, 이를 여러 층으로 다시 묶은 온디바이스 특화 솔루션 zNAND-O도 함께 선보였다. 빠른 처리가 필요한 임시 데이터는 D램에 맡기고 용량이 큰 AI 모델 자체는 낸드 기반 메모리에 저장하는 구조로, 양산용 샘플은 2028년부터 공급될 예정이다.

SK하이닉스는 다른 길을 택했다. 낸드를 8단 혹은 16단으로 쌓아 최대 512기가바이트 용량과 초당 최대 3테라바이트의 전송 속도를 지원하는 HBF의 표준 규격을 샌디스크와 함께 완성해 발표했다. 업계 공통 연결 규격인 UCIe를 채택해 서로 다른 프로세서에도 유연하게 붙일 수 있도록 설계했으며, 구글과 텐스토렌트가 표준화 작업에 함께 참여했다. 모든 공정을 안에서 통합하려는 삼성전자와 달리, 여러 기업이 함께 쓰는 판을 넓히겠다는 접근이다.

시장 상황도 이번 발표의 배경이다. 삼성전자는 올해 1분기 메모리 매출에서 세계 1위 자리를 지켰고, 시장조사업체는 전체 메모리 시장 규모가 올해보다 내년에 크게 확대될 것으로 내다봤다. 한 프랑스계 조사기관은 두 회사의 투자 확대와 정부 지원을 근거로 한국이 앞으로도 수년간 메모리 분야 선두를 유지할 것으로 전망하면서도, AI 시장이 학습에서 추론 중심으로 옮겨가며 신제품 개발 주기가 빨라지는 점을 새로운 변수로 꼽았다.