炒股就看金麒麟分析師研報,權威,專業,及時,全面,助您挖掘潛力主題機會!
IT之家 7 月 11 日消息,Arm 公司昨日(7 月 10 日)發佈博文,爲了滿足未來生成式 AI 的需求,擴展提供更多先進智能功能,推出了可以加速 AI 工作負載的可擴展矩陣擴展 2(SME2)技術,開發者無需修改代碼,即可集成至現有模型和應用中。
該公司指出,在移動設備上的生成式 AI 應用不再侷限於傳統的聊天機器人和虛擬助手,而是逐漸發展到生成文本、聲音、圖像和視頻,執行數學推理、以及羣聊摘要等諸多高級智能功能。
SME 最初出現在 Armv9 架構中,是一組可選的高級 CPU 架構擴展,專門設計用於加速矩陣數學運算。
SME2 在 2022 年底首次亮相,在此基礎上增加了新功能,據 Arm 稱,它能夠實現實時的移動端推理任務,涵蓋生成圖片、自然語言處理任務等。
Arm 還分享了一些數據,這些數據確實讓 SME2 看起來非常可靠。根據 Arm 的說法,Google 的 Gemma 3 模型在 SME2 增強的硬件上,比沒有 SME2 的硬件快 6 倍。
它可以在單個 CPU 核心上不到一秒鐘內運行 800 字的文本摘要,IT之家注:這裏 Arm 所指的 CPU 型號尚不清楚。
對於消費者來說,公告中的關鍵部分是,未來安卓手機即將具備 SME2 硬件能力。
到目前爲止,SME 主要保留給服務器和工作站級處理器,因爲其要求較高。然而,SME2 被設計爲更加可擴展,能夠部署在筆記本電腦、平板電腦,以及高端智能手機上。
重要的是,安卓已經準備好支持 SME2。SME2 在 Google 的 XNNPACK 庫中啓用,並支持 llama.cpp、阿里巴巴的 MNN 和微軟的 ONNX 等框架。
(轉自:網易科技)
免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。