截至2026年9月19日,AI在提供服務的同時仍持續學習新資訊的「持續學習」技術擴散,正把記憶體半導體的需求版圖從HBM延伸到伺服器用DRAM與NAND快閃記憶體。國際投資銀行預估明年相關需求將較今年大幅成長,三星電子與SK海力士也各自推出新技術因應。
重點整理
- AI在給出回答的同時持續學習新資料的「持續學習」方式,成為改變記憶體需求結構的新變數。
- 花旗銀行預估明年高頻寬記憶體(HBM)位元需求將達今年的1.6倍,2028年更將接近今年的3倍。
- 三星電子在美國舉辦的活動上發表將記憶體直接堆疊於加速器上方的結構,SK海力士則展示記憶體內運算等新技術。
- 輝達執行長發言後,南韓半導體龍頭股應聲大漲,相關主題ETF也接連上市。
近來AI產業界正關注一種讓模型在提供服務的同時持續吸收新資訊的學習方式,這種方式讓學習與推論的界線幾乎消失。過去的生成式AI只能依靠事前習得的知識來回答問題,新方式則是在給出答案的同時持續學習,業界甚至將其比喻為「一邊考試、一邊持續吸收新知的學生」。
這股趨勢也正影響記憶體半導體的需求結構。國際投資銀行花旗預估,一旦這種學習方式全面普及,高頻寬記憶體(HBM)需求將比現在更為擴大。根據花旗展望,明年相關位元需求將躍升至今年的1.6倍以上,到2028年更將逼近今年的3倍。花旗指出,即便記憶體規格調整與AI安全疑慮同時浮現,這種學習方式的擴散仍是未來數年供給吃緊持續的關鍵變數。
新的學習方式也帶來單一記憶體難以獨立應付的課題。系統必須一邊儲存新輸入的資訊,一邊隨時存取已累積的龐大知識庫,但不可能把所有資料都放在昂貴的高頻寬記憶體上。因此伺服器用DRAM與NAND快閃記憶體儲存裝置的角色隨之擴大,能在記憶體內部直接處理運算的技術重要性也同步提升。
三星電子與SK海力士也順應這波變化,接連發表新技術。在美國舉辦的AI基礎設施相關活動上,三星電子公開將記憶體直接堆疊於加速器正上方、藉此縮短資料移動距離的「zHBM」結構,並宣示要將回應速度提升約10倍。SK海力士則同場展出可在記憶體內部直接執行運算的PIM技術,依資料特性分配儲存位置的SALT-KV,以及高頻寬快閃記憶體結構模型等新技術。
這樣的期待近來也反映在市場上。輝達執行長表示明年晶片銷售量將達今年的兩倍後,兩家公司股價雙雙應聲大漲,南韓股市也接連推出鎖定美國記憶體大廠或HBM相關個股的指數股票型基金(ETF)。世界貿易組織(WTO)統計也顯示,AI相關商品貿易成長速度遠超其他品項,成為支撐記憶體需求擴大展望的背景之一。
常見問題
什麼是「持續學習」(Continual Learning)?
指AI在提供服務的過程中持續學習新資料,並與既有知識結合的方式,特徵是學習與推論的界線變得模糊。
這股趨勢為何對三星電子、SK海力士很重要?
因為AI記憶體需求可能不只侷限於兩家公司主導的高頻寬記憶體(HBM),還會擴及伺服器用DRAM與NAND快閃儲存裝置。
「AI投資放緩論」是否有可能壓低記憶體需求?
雖然部分意見提及投資步調可能放緩,但目前並未確認實際訂單減少,加上整個產業同時放慢腳步在現實上並不容易,因此主流分析認為風險有限。


發佈留言