SK海力士正在以兩項突破性技術重新定義AI基礎設施的內存架構邊界。在2026年OCP全球峰會上,這家韓國存儲巨頭發布了MARS內存加速架構與HBF高帶寬閃存技術,劍指當前AI推理與訓練中日益嚴峻的內存瓶頸問題。
SK海力士高級副總裁Hoshik Kim在峰會上披露,MARS系統可將多輪AI推理場景中的首次標記時間(TTFT)提升3至5倍,尾延遲亦大幅壓縮。這一性能躍升直接針對現有以處理器為中心的集群架構所固有的資源失衡問題,有望降低GPU過度配置帶來的總擁有成本(TCO)。
與此同時,HBF技術在保持接近HBM級別帶寬的前提下,將容量擴展至HBM的14倍,並計劃於2028年初推出樣品。
上述兩項技術的發布,標誌着SK海力士在HBM主賽道之外開闢了一條差異化路線。在HBM供應持續緊張、英偉達等AI芯片廠商對高帶寬內存需求居高不下的背景下,這兩項技術或將對現有AI存儲架構形成重要補充,並對存儲產業鏈競爭格局產生深遠影響。
MARS:以內存解聚打破GPU過度配置困局
傳統以處理器為中心的分佈式計算集群面臨結構性瓶頸。Kim在峰會上指出,現有架構存在兩大核心缺陷:其一,資源失衡——某台服務器上的閒置內存無法便捷地與其他節點共享;其二,擴展僵化——增加內存容量往往意味着購置整台新服務器節點。這兩大問題疊加,迫使運營商不得不對GPU進行過度配置,推高TCO並造成系統效率低下。
MARS(Memory-Centric AI Rack-Scale System)的核心邏輯在於內存解聚。Kim將其描述為"將內存從傳統CPU/GPU服務器約束中解耦,構建一個專用的大規模內存池",從而實現從"單服務器內存餘量"向"池化級效率"的跨越。在架構層面,MARS將這一內存托盤級內存池的概念進一步擴展至機架規模,使計算與內存作為共享基礎設施協同運作。
在實際應用場景中,MARS的價值尤為突出。Kim以多輪AI智能體推理服務為例說明,該系統能夠將多輪對話中急劇膨脹的KV緩存存儲於共享內存系統,而不會耗盡GPU內存與存儲資源。據TrendForce現場報道,Kim援引測試數據稱,與重新計算方案相比,MARS可實現TTFT提升3至5倍,尾延遲的改善尤為顯著。
對於AI推理服務商而言,TTFT是衡量用戶體驗的關鍵指標,尾延遲的壓縮則直接關係到大規模併發場景下的服務穩定性。MARS所針對的GPU過度配置問題,亦是當前AI數據中心運營成本居高不下的重要根源之一。
HBF:以容量換取架構彈性,2028年進入樣品階段
HBF(High Bandwidth Flash,高帶寬閃存)是SK海力士在HBM之外佈局的另一技術路線。Kim在峰會上明確了HBF與HBM的定位關係:"HBF將HBM級別的帶寬擴展至機架規模的容量……HBF的帶寬約為HBM的一半,但容量約為HBM的14倍。"
這一定位揭示了HBF的核心價值主張:以適度的帶寬折讓換取大幅擴展的容量空間,從而在機架層面構建更具彈性的存儲層級。對於大模型推理中需要承載海量參數與上下文的場景,容量瓶頸往往比帶寬瓶頸更為制約系統性能,HBF的14倍容量優勢因此具有實質性意義。
在技術路線圖方面,SK海力士已於今年7月發布OCP HBF規範0.7版本,預計明年初推出1.0版本,HBF Cube樣品則計劃於2028年初提供。這一時間線意味着HBF距離大規模商業化部署仍有約兩年窗口期,但規範的持續推進表明產業標準化進程正在加速。
對AI芯片與存儲產業鏈的潛在影響
MARS與HBF的發布,折射出存儲廠商在HBM供應緊張背景下尋求多元化突破的戰略意圖。當前,HBM產能高度集中,英偉達等AI芯片廠商對HBM的旺盛需求持續推高供應壓力,這為替代或補充性內存架構提供了市場空間。
從技術邏輯看,MARS並非直接替代HBM,而是通過內存解聚在系統架構層面提升整體內存利用效率,減少對GPU內存擴容的依賴。這意味着在不增加HBM採購量的前提下,數據中心運營商有望通過部署MARS改善推理性能,對HBM需求形成一定的邊際抑制效應。HBF則在存儲層級上提供了HBM的容量補充,有助於緩解大模型部署中的容量約束,但其帶寬折半的特性決定了其更適合作為分級存儲架構中的補充層,而非HBM的直接替代。
對於存儲產業鏈而言,SK海力士此次在OCP峰會上的集中發布,亦是向雲計算廠商和AI基礎設施運營商傳遞技術路線圖的重要信號。隨着HBF規範走向1.0版本並於2028年進入樣品階段,圍繞新型存儲架構的生態競爭或將提前展開,三星、美光等競爭對手的應對策略值得持續關注。