Meta發佈新版AI大模型 Llama 4,首次採用“混合專家”架構

老虎資訊綜合
04-06

Meta公司在週六發佈了其 Llama系列中的一組新的人工智能模型 ——Llama 4。該系列總共有四個新模型:Llama 4 Scout、Llama 4 Maverick 和 Llama 4 Behemoth。Meta稱,所有這些模型都經過了 “大量未標註的文本、圖像和視頻數據” 的訓練,以使它們具備 “廣泛的視覺理解能力”。

Llama 4系列首次採用了混合專家(MoE)架構的模型,這種架構在訓練和回答用戶查詢時的效率更高,可以將模型劃分爲多個專注於特定任務的“專家”子模型。

據Meta介紹,Scout和Maverick不僅是其“迄今爲止最先進的模型”,也是“多模態領域中最先進的模型”。

據悉,Scout有170億個活躍參數、16個“專家”模型、1090億個總參數;Maverick也有170億個活躍參數,但有128個“專家”模型,總參數量高達4000億。

Meta AI已在40個國家更新爲使用Llama 4模型。目前,多模態功能僅在美國以英語提供。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10