當 AI 的思考速度卡在資料讀取：SK 海力士與閃迪的 HBF 標準如何補上運算缺口

當輝達的高階 GPU 運算速度不斷翻倍，大型語言模型的參數量從千億飆升至數千億時，硬體架構的真正瓶頸早已不在處理器本身，而是卡在「如何把資料即時餵給運算核心」。為了解決這個日益嚴重的記憶體頻寬與容量落差，SK 海力士與閃迪（SanDisk）宣佈將在 2026 年的美國加州閃存峯會（FMS 2026）上，正式發布「高頻寬快閃記憶體」（HBF，High Bandwidth Flash）的首個標準規範。

此項規範是由全球最大的開放式資料中心技術合作組織 OCP（Open Compute Project）正式發布。這意味著 HBF 正式成為產業的通用開放標準，擺脫了單一企業私有技術的侷限，為繪圖處理器（GPU）與中央處理器（CPU）等不同類型的處理器靈活連接奠定了基礎。

AI 推理時代的儲存陣痛

要理解 HBF 出現的時機點，必須先看清楚目前 AI 資料中心面臨的物理限制。在 AI 模型的「訓練」階段，系統需要極高的資料吞吐量，這時主要由高頻寬記憶體（HBM）緊貼著 GPU 運作，負責快速交換參數。然而，當模型進入「推理」階段，也就是實際上面對千百萬使用者發送請求並生成回答時，運算模式徹底改變。

推理過程需要不斷讀取模型龐大的權重資料。如果把這些權重全部塞進 HBM，成本將會極度高昂，且容量根本不夠用；如果把權重放在傳統固態硬碟（SSD）裡，透過 PCIe 通道傳輸，資料搬移的速度又太慢，導致昂貴的 GPU 處於「空轉等資料」的狀態。這種運算能力與資料讀取速度不匹配的現象，被業界稱為「記憶體牆」。在 AI 應用走向多媒體生成與長上下文對話的趨勢下，如何突破這堵牆，成為雲端服務業者降低營運成本、提高回應速度的關鍵。

新型態儲存層級的運作邏輯

HBF 並非要取代現有的 HBM 或固態硬碟，而是在兩者之間建立一個全新的「緩衝地帶」。它的核心邏輯是將傳統用於長期儲存的 NAND 型快閃記憶體，進行與 HBM 類似的堆疊與封裝處理，使其具備逼近於揮發性記憶體的傳輸速度，同時保留非揮發性記憶體的大容量與低成本優勢。

根據目前已經確立的標準規範，HBF 的硬體結構與效能分級有著明確的定義。在容量配置上，目前的規範定義了兩種型號，分別採用 8 層與 16 層 NAND 晶片進行堆疊，最高可提供 512GB 的單顆容量。在傳輸速度上，則依照三個等級劃分頻寬標準，資料傳輸能力涵蓋了約 0.4TB/s 到最高的 3.0TB/s。

真正讓這項技術具備開放相容能力的關鍵，在於它採用了業界標準的 UCIe（Universal Chiplet Interconnect Express）互聯技術。這使得 HBF 晶片可以像積木一樣，與各家廠商的 GPU 或 CPU 進行封裝對接，不必受限於特定處理器廠商的專屬介面。這也是 OCP 組織將其認證為開放標準的核心原因。

開放標準與生態系的競合

一項新的硬體規格如果要成功，從來不能只靠零組件供應商單方面推動，更需要終端應用者的採用。HBF 標準的推進速度相當快，從 SK 海力士去年八月與閃迪啟動標準化合作，到今年二月成立專屬聯盟，歷經約六個月的時間就推出了首項具體成果。

目前，HBF 聯盟已經匯聚了應用端的巨頭與硬體創新者。其中，Google 的加入代表了超大規模資料中心營運商對這種新型態記憶體層級的迫切需求。Google 需要更有效率的方法來調度其龐大的 AI 推理叢集，而 Tenstorrent 的參與，則顯示出 AI 晶片新創公司試圖透過採用開放的 HBF 標準，來打破輝達在硬體生態上的獨佔地位。這也與我們先前觀察到的 半導體大廠出售傳統事業以押注 AI 賽道 的產業重組邏輯一致，資源正以前所未有的速度向 AI 基礎設施集中。

V10 NAND 與企業級固態硬碟的下一步

在確立了未來的記憶體新標準後，SK 海力士在基礎快閃記憶體技術上也迎來了重大突破。該公司將在 FMS 2026 期間首次公開展示目前開發進展順利的第十代（V10）375 層 4D NAND 快閃記憶體晶圓和相關產品。

相較於上一代產品，375 層 V10 NAND 的性能功耗比提升了 2.5 倍。這項特性對於需要極高能效的資料中心而言至關重要。在大型資料中心內，儲存裝置的耗電量佔據了整體營運成本的極大比例。SK 海力士計畫於明年初，正式啟動基於此 V10 NAND 的高效能、大容量企業級固態硬碟量產。這些新一代的固態硬碟將成為 HBF 之外，支撐 AI 基礎設施外層資料儲存的骨幹。

硬體格局重塑對使用者的意義

對於一般的軟體開發者或企業端使用者而言，HBF 規範的底定與 V10 NAND 的量產，最直接的影響在於「AI 運算的成本曲線」。

當資料中心能夠透過 HBF 更有效率地將模型權重餵給 GPU，減少昂貴運算核心的閒置時間，意味著每次生成文字、圖片或影片的邊際成本將顯著下降。使用者未來在呼叫各種 API 時，有機會享受到更低的計費費率與更快的回應延遲。更重要的是，開放標準的確立避免了單一廠商在又一個關鍵硬體環節形成壟斷，確保了雲端服務供應商在採購硬體時的議價空間。隨著 FMS 2026 的到來，這項規範能否順利催生出實際的商用硬體，將決定下一波 AI 應用普及的速度。