新浪科技訊1月15日晚間消息,近日,XSKY星辰天合發布專為AI場景打造的全棧AI數據方案,宣佈通過MeshFS、MeshSpace、MeshFusion三大核心產品,打破制約AI效率的IO牆、數據重力牆和內存牆,助力企業構建高效、可控的AI工廠。
大模型時代,算法同質化趨勢愈發明顯。企業真正的差異化競爭優勢,藏在自身獨有的「專有數據」裏。但這些承載企業核心經驗與價值的數字資產,因安全合規要求無法向外溢出,如何在私有環境內實現價值轉化,成為企業AI轉型的關鍵命題。
此外,傳統存儲架構難以支撐私有高價值數據的高效轉化——將直接導致企業在大量AI訓練與數據工程場景中GPU利用率被I/O等待拉低至30-50%,極端情況下更低。因此導致的算力空轉,也將導致IO牆讓存儲讀寫追不上算力吞吐,內存牆限制模型參數的爆發式增長,重力牆讓跨域數據流動成本高企,形成新的數據孤島。
如何守住數據安全的同時打破效率瓶頸,成為企業AI落地的核心訴求。而XSKY把握這一趨勢,以全棧AI數據方案築牢數據安全底線,搭建私有化、可控的AI數據底座,讓企業在私有環境內,安全地將這些專有數據轉化為智慧。
據悉,XSKY通過架構創新——提出AIMesh數據與內存網,通過訓練數據網MeshFS、全局對象網MeshSpace、推理內存網MeshFusion「三網合一」的創新架構,精準擊破「IO牆、重力牆、內存牆」三大痛點,實現「快、通、省」的核心價值。
針對算力吞吐遠超存儲讀寫,GPU利用率低的瓶頸,MeshFS融合XGFS成熟的POSIX語義與XSEA全閃底座的極致性能,支持POSIX/S3/HDFS全協議互通,無需修改Python或TensorFlow訓練代碼即可運行。全分佈式架構讓性能隨節點數線性增長,元數據處理延遲低至微秒級,實測順序讀帶寬比同類產品提升30%,順序寫帶寬超出行業水平50%,有效解決了數據供給滯後問題。
針對AI推理的超長篇上下文導致KVCache被高度佔用及顯存(HBM)成本不斷攀升,MeshFusion將服務器本地NVMe SSD 轉化為L3級外部內存,以1%的硬件成本實現近乎無限的上下文窗口。實測顯示,其與純DRAM的性能差距控制在10%以內,高併發場景吞吐量線性增長,資源受限狀態下甚至能實現20%性能反超。(文猛)
責任編輯:何俊熹