安卓手機將擁抱 Arm SME2 技術,AI 性能迎來飛躍

市場資訊
07-11

  炒股就看金麒麟分析師研報,權威,專業,及時,全面,助您挖掘潛力主題機會!

IT之家 7 月 11 日消息,Arm 公司昨日(7 月 10 日)發佈博文,爲了滿足未來生成式 AI 的需求,擴展提供更多先進智能功能,推出了可以加速 AI 工作負載的可擴展矩陣擴展 2(SME2)技術,開發者無需修改代碼,即可集成至現有模型和應用中。

該公司指出,在移動設備上的生成式 AI 應用不再侷限於傳統的聊天機器人和虛擬助手,而是逐漸發展到生成文本、聲音、圖像和視頻,執行數學推理、以及羣聊摘要等諸多高級智能功能。

SME 最初出現在 Armv9 架構中,是一組可選的高級 CPU 架構擴展,專門設計用於加速矩陣數學運算。

SME2 在 2022 年底首次亮相,在此基礎上增加了新功能,據 Arm 稱,它能夠實現實時的移動端推理任務,涵蓋生成圖片、自然語言處理任務等。

Arm 還分享了一些數據,這些數據確實讓 SME2 看起來非常可靠。根據 Arm 的說法,Google 的 Gemma 3 模型在 SME2 增強的硬件上,比沒有 SME2 的硬件快 6 倍。

它可以在單個 CPU 核心上不到一秒鐘內運行 800 字的文本摘要,IT之家注:這裏 Arm 所指的 CPU 型號尚不清楚。

對於消費者來說,公告中的關鍵部分是,未來安卓手機即將具備 SME2 硬件能力。

到目前爲止,SME 主要保留給服務器和工作站級處理器,因爲其要求較高。然而,SME2 被設計爲更加可擴展,能夠部署在筆記本電腦、平板電腦,以及高端智能手機上。

重要的是,安卓已經準備好支持 SME2。SME2 在 Google 的 XNNPACK 庫中啓用,並支持 llama.cpp、阿里巴巴的 MNN 和微軟的 ONNX 等框架。

(轉自:網易科技)

海量資訊、精準解讀,盡在新浪財經APP

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10