AI ‘연속학습’ 확산에 메모리 반도체 수요 지도 다시 그린다

2026년 9월 19일 기준, AI가 서비스 중에도 새 정보를 계속 학습하는 '연속학습' 기술 확산이 메모리 반도체 수요를 HBM 너머 서버용 D램과 낸드까지 넓히고 있다. 글로벌 투자은행은 내년 관련 수요가 올해보다 큰 폭으로 늘 것으로 내다봤고, 삼성전자와 SK하이닉스는 각기 다른 신기술로 대응에 나섰다.

1.6배내년 HBM 비트 수요의 올해 대비 전망(씨티)

2.8배2028년 HBM 수요의 올해 대비 전망(씨티)

6.42%↑18일 SK하이닉스 주가 상승률

42%↑올해 1분기 AI 관련 상품 교역의 전년 동기 대비 증가율(WTO)

핵심 정리

AI가 답변을 내놓는 동시에 새 데이터를 학습하는 '연속학습' 방식이 메모리 수요 구조를 바꾸는 변수로 떠올랐다.
씨티는 내년 고대역폭메모리 비트 수요가 올해의 1.6배 수준으로, 2028년에는 올해의 세 배 가까이로 늘 것으로 전망했다.
삼성전자는 가속기 위에 메모리를 직접 쌓는 적층 구조를, SK하이닉스는 메모리 내 연산 등 신기술을 미국 행사에서 공개했다.
엔비디아 CEO의 발언 이후 국내 반도체 대형주가 급등했고 관련 테마 ETF 출시도 잇따르고 있다.

최근 AI 업계에서는 모델이 서비스 도중에도 새로운 정보를 받아들이는 학습 방식이 주목받고 있다. 이 방식에서는 학습과 추론의 경계가 사실상 사라진다. 기존 생성형 AI가 미리 습득한 지식만으로 답을 내놓는 구조였다면, 새 방식은 답을 내놓는 동시에 배움을 이어간다는 점에서 다르다. 업계에서는 이를 시험을 치르면서도 계속 새 내용을 익히는 학생에 견주기도 한다.

이런 흐름은 메모리 반도체 수요 구조에도 영향을 주고 있다. 글로벌 투자은행 씨티는 이 방식이 본격화하면 고대역폭메모리 수요가 지금보다 한층 커질 것으로 내다봤다. 씨티 전망에 따르면 내년 관련 비트 수요는 올해의 1.6배를 웃도는 수준으로 뛰고, 2028년에는 올해의 세 배 가까이로 불어날 전망이다. 이 은행은 메모리 사양 조정과 AI 안전성 우려가 불거지는 와중에도 이런 학습 방식 확산이 향후 수년간 공급 부족을 이어가게 할 핵심 변수라고 짚었다.

새 학습 방식에서는 한 종류의 메모리만으로 감당하기 어려운 문제도 생긴다. 새로 들어오는 정보를 담는 동시에 이미 쌓아둔 방대한 지식에도 수시로 접근해야 하는데, 모든 데이터를 값비싼 고대역폭메모리에만 올려둘 수는 없기 때문이다. 이 때문에 서버용 D램과 낸드 기반 저장장치까지 역할이 넓어지고, 메모리 내부에서 직접 연산을 처리하는 기술의 중요성도 함께 커지는 추세다.

삼성전자와 SK하이닉스는 이런 변화에 맞춰 신기술을 잇달아 선보였다. 미국에서 열린 AI 인프라 관련 행사에서 삼성전자는 가속기 바로 위에 메모리를 쌓아 데이터 이동 거리를 줄인 적층 구조 'zHBM'을 공개하며 응답 속도를 열 배가량 끌어올리겠다는 목표를 밝혔다. SK하이닉스는 메모리 내부에서 직접 연산을 수행하는 PIM 기술과, 데이터 특성에 맞춰 저장 위치를 나누는 SALT-KV, 고대역폭 플래시 구조 모형 등을 함께 전시했다.

이런 기대는 최근 시장에도 반영되고 있다. 엔비디아 최고경영자가 내년 칩 판매량이 올해의 두 배에 이를 것이라고 언급한 뒤 두 회사 주가는 나란히 급등했고, 국내 증시에는 미국 메모리 기업이나 HBM 관련주에 집중 투자하는 상장지수펀드가 잇따라 출시되고 있다. 세계무역기구 집계에서도 AI 관련 상품 교역이 다른 품목보다 훨씬 빠르게 늘고 있는 것으로 나타나, 메모리 수요 확대 전망에 힘을 싣는 배경으로 꼽힌다.

한국에서는 지금한국에서는 지금 반도체 대형주의 반등과 함께 관련 투자 상품 경쟁도 뜨겁다. 이번 주에만 미국 메모리기업이나 국내 HBM 관련주에 집중 투자하는 상장지수펀드 여러 개가 새로 상장했고, 증권가에서는 고금리에도 불구하고 AI 인프라 투자가 이어질 것이라는 분석이 나온다. 다만 비슷한 종목을 담은 테마형 상품이 한꺼번에 쏟아지면서 상품 간 차별성이 부족하다는 지적도 함께 제기된다.