SK hynix 聯同 Sandisk 宣布開發 下一代記憶體 HBF 技術

Author:

Published:

- 廣告 -

SK hynix 近日宣佈,聯同 Sandisk 正式啟動下一代記憶體技術「High Bandwidth Flash(HBF)」的全球標準化工作,目標是在 AI 推理(Inference)時代,於 HBM 與 SSD 之間建立一個全新的高頻寬、超大容量記憶體層,為未來 AI 基建作好底層標準。

HBF 夾在 HBM 與 SSD 之間

所謂 HBF,全名 High Bandwidth Flash,本質上是一種基於 NAND 的高速記憶體方案,定位介乎現時用於 GPU 的高頻寬記憶體 HBM,以及大容量儲存裝置 SSD 之間。傳統架構下,HBM 帶寬極高但容量有限又昂貴,而 SSD 容量龐大但頻寬及延遲遠遠追不上,隨着大型語言模型、生成式 AI 推理負載持續增加,既要帶寬又要容量的需求,正逼使業界尋找新一代中間層記憶體方案。

HBF 的設計,就是在 AI 加速器/伺服器內,多加一層「高頻寬 Flash 記憶體」,由 HBM 負責即時計算時對帶寬需求最大的資料,而 HBF 則提供 TB 級容量與高頻寬讀取,負責存放龐大的模型權重、向量資料等,最後再以下層 SSD 充當後端冷數據庫,形成三層式的記憶體架構。這樣既可以減輕 HBM 容量有限與成本壓力,又比直接從 SSD 載入資料省電得多、反應更快,對大規模推理節點尤其重要。

- 廣告 -

聯手 OCP 推動全球標準化

為了讓 HBF 不只是「自家規格」,SK Hynix 與 Sandisk 將在 Open Compute Project(OCP)底下成立專門工作小組(workstream),以業界協作方式推動 HBF 規格標準化。 兩家公司指出,會以自身在 HBM、NAND 設計、封裝與量產方面的經驗為基礎,訂立 HBF 的介面規格、封裝需求及系統整合指引,為日後更多晶片設計商、伺服器 OEM 與雲端營運商加入鋪路。

Sandisk 表示,透過 OCP 的工作小組,目標是將 HBF 打造成「下一代 AI 系統的核心積木」,讓這個記憶體新分類可以在資料中心與 AI 伺服器中廣泛採用,而不是局限於少數專用平台。SK Hynix 方面則強調,「AI 基建的關鍵,不再只是單一元件性能比拼,而是整個生態的效能與能耗優化」,標準化 HBF 正是為整體生態建立一個共同基礎。

帶寬、容量與耗電平衡

近年的 AI 發展重心,正由單純訓練超大型模型,轉向如何在全球各地、數以千萬計裝置上,持續穩定地提供推理服務(例如聊天機械人、圖像生成、推薦系統等)。 與訓練不同,推理是 7×24 小時運行,既對記憶體頻寬與容量有高要求,又受制於功耗及營運成本,現有「HBM + SSD」架構愈來愈接近極限。

HBF 被視為一個專門為推理優化的新記憶體層級:

  • 以 TB 級容量配合數百 GB/s 量級頻寬,適合存放大型模型權重。
  • 基於 NAND 架構,單位容量成本與功耗較 DRAM/HBM 低,提升整體能源效率與每 TB 成本效益。
  • 透過與 HBM 類似的多通道、die stacking 等技術,縮短 CPU/GPU/加速器與記憶體之間的「距離」。

業界分析指,隨著 HBM4 等新一代高頻寬記憶體仍面對供應緊張、成本高昂問題,能以 HBF 這類 NAND 架構方案作為彈性擴充,對 AI 雲端營運商而言具相當吸引力,未來有望在 2030 年前成為一個數十億美元級別的新市場。

SK Hynix + Sandisk:HBM 王者遇上 NAND 強者

從產業分工來看,SK Hynix 是現時 HBM 市場的領先供應商之一,在 HBM3E、HBM4 等產品上佔有重要份額;Sandisk 則在 NAND、控制器及 SoC 設計方面擁有深厚技術底子。兩者合作推動 HBF 標準,等同把「高頻寬 DRAM」與「高速 NAND」兩大技術世界拉在一起,嘗試在 AI 時代重新定義記憶體與儲存的邊界。

- 廣告 -

SK Hynix 指出,透過標準化 HBF 技術,將可以建立一個更緊密的合作體系,提供針對 AI 時代而設的最佳化記憶體架構,為客戶及合作夥伴創造新價值。 Sandisk 則形容,這不只是一個新標準,更是在「為下一代 AI 計算樹立新標杆」,藉此讓 HBF 成為未來 AI 系統設計時的一個基本組件選項。

- 廣告 -
Buy Me a CPM: PCM 讀者會員資助計劃
Lawrence
Lawrence
《PCM》創刊編輯, 見證電腦由 Monochrome 到 3D,9.6Kbps 撥號到 5G 無線上網年代,DIY、攝影、影音、手機樣樣啱玩。
- 廣告 -

Related Articles

- 廣告 -

Recent Articles

- 廣告 -

最新影片

- 廣告 -