日前,中國上海——芯原股份(芯原,股票代碼:688521.SH)宣佈與谷歌聯合推出面向始終在線、超低能耗端側大語言模型應用的Coral NPU IP。該IP基於谷歌在開放機器學習編譯器方面的基礎研究成果,並結合AI的安全特性進行了強化,為開發者提供統一的開源技術平臺,以構建強大的邊緣AI生態系統。
Coral NPU基於RISC-V開放指令集架構標準構建,引入原生張量處理能力,支持主流機器學習框架,如JAX、PyTorch和TensorFlow Lite(TFLite),並採用基於開放標準的工具,例如來自低級虛擬機(LLVM)項目的多級中間表示(MLIR),作為編譯器基礎設施。其設計面向始終在線、超低能耗的邊緣AI應用,尤其適用於可穿戴設備和泛在感知系統。
Coral NPU IP已在谷歌開發者網站開源,面向全球開發者開放。芯原將提供商業化的企業級IP版本,並結合自身豐富的IP儲備以及芯片設計與驗證能力,為客戶的相關芯片提供一站式芯片定製等服務。目前,芯原正在開發基於Coral NPU IP的驗證芯片,面向AI/AR眼鏡與智能家居等應用,以加速大語言模型在邊緣端的部署。
芯原執行副總裁,定製芯片平臺事業部總經理汪志偉表示:「此次項目基於我們在Open Se Cura開源項目上的既有經驗,也標誌着谷歌開源技術與芯原在芯片設計和產業化支持上的持續深度合作。芯原將繼續發揮在芯片設計、驗證及系統級優化方面的優勢,推動邊緣AI生態建設,助力開源技術在實際終端產品中的落地應用,並為行業創新提供有力支持。」
文/廣州日報新花城記者:鍾達文
廣州日報新花城編輯:麥曉穎[ 編輯: gzck ]