商湯發佈原生多模態架構NEO並開源

DoNews
12/01

商湯科技正式發佈並開源了與南洋理工大學 S-Lab合作研發的全新多模態模型架構——NEO,為日日新 SenseNova 多模態模型奠定了新一代架構的基石。

作為行業首個可用的、實現深層次融合的原生多模態架構(Native VLM),NEO 從底層原理出發,打破了傳統「模塊化」範式的桎梏,以「專為多模態而生」的創新設計,通過核心架構層面的多模態深層融合,實現了性能、效率和通用性的整體突破,重新定義了多模態模型的效能邊界,標誌着人工智能多模態技術正式邁入「原生架構」的新時代

當前,業內主流的多模態模型大多遵循「視覺編碼器+投影器+語言模型」的模塊化範式。這種基於大語言模型(LLM)的擴展方式,雖然實現了圖像輸入的兼容,但本質上仍以語言為中心,圖像與語言的融合僅停留在數據層面。這種「拼湊」式的設計不僅學習效率低下,更限制了模型在複雜多模態場景下(比如涉及圖像細節捕捉或複雜空間結構理解)的處理能力。

商湯 NEO 架構正是為瞭解決這一痛點而生。早在2024年下半年,商湯便在國內率先突破多模態原生融合訓練技術,以單一模型在 SuperCLUE 語言評測和 OpenCompass 多模態評測中奪冠,並基於這一核心技術打造了日日新 SenseNova 6.0,實現多模態推理能力領先。之後,在2025年7月發佈日日新 SenseNova 6.5,通過實現編碼器層面的早期融合,把多模態模型性價比提升3倍,並在國內率先推出商用級別的圖文交錯推理。商湯此次更進一步,徹底摒棄了傳統的模塊化結構,從底層原理出發,推出了從零設計的 NEO 原生架構。

NEO 架構以極致效率和深度融合為核心理念,通過在注意力機制、位置編碼和語義映射三個關鍵維度的底層創新,讓模型天生具備了統一處理視覺與語言的能力:

原生圖塊嵌入 (Native Patch Embedding):摒棄了離散的圖像 tokenizer,通過獨創的 Patch Embedding Layer (PEL) 自底向上構建從像素到詞元的連續映射。這種設計能更精細地捕捉圖像細節,從根本上突破了主流模型的圖像建模瓶頸。

原生三維旋轉位置編碼 (Native-RoPE):創新性地解耦了三維時空頻率分配,視覺維度採用高頻、文本維度採用低頻,完美適配兩種模態的自然結構。這使得 NEO 不僅能精準捕獲圖像的空間結構,更具備向視頻處理、跨幀建模等複雜場景無縫擴展的潛力。

原生多頭注意力 (Native Multi-Head Attention):針對不同模態特點,NEO 在統一框架下實現了文本 token 的自迴歸注意力和視覺 token 的雙向注意力並存。這種設計極大地提升了模型對空間結構關聯的利用率,從而更好地支撐複雜的圖文混合理解與推理。

此外,配合創新的 Pre-Buffer & Post-LLM 雙階段融合訓練策略,NEO 能夠在吸收原始 LLM 完整語言推理能力的同時,從零構建強大的視覺感知能力,徹底解決了傳統跨模態訓練中語言能力受損的難題。

在架構創新的驅動下,NEO 展現出了驚人的數據效率與性能優勢:

極高數據效率:僅需業界同等性能模型1/10的數據量(3.9億圖像文本示例),NEO 便能開發出頂尖的視覺感知能力。無需依賴海量數據及額外視覺編碼器,其簡潔的架構便能在多項視覺理解任務中追平 Qwen2-VL、InternVL3 等頂級模塊化旗艦模型。

性能卓越且均衡:在 MMMU、MMB、MMStar、SEED-I、POPE 等多項公開權威評測中,NEO 架構均斬獲高分,展現出優於其他原生 VLM 的綜合性能,真正實現了原生架構的「精度無損」。

極致推理性價比:特別是在 0.6B-8B 的參數區間內,NEO 在邊緣部署方面優勢顯著。它不僅實現了精度與效率的雙重躍遷,更大幅降低了推理成本,將多模態視覺感知的「性價比」推向了極致。

架構是模型的「骨架」,只有骨架紮實,才能支撐起多模態技術的未來。NEO 架構的早期融合設計支持任意分辨率與長圖像輸入,能夠無縫擴展至視頻、具身智能等前沿領域,實現了從底層到頂層、端到端的真正融合。從應用角度,端到-end的「原生一體化」設計,為機器人具身交互、智能終端多模態響應、視頻理解、3D交互及具身智能等多元化場景的應用,提供了堅實的技術支撐。

目前,商湯已正式開源基於 NEO 架構的 2B 與 9B 兩種規格模型,以推動開源社區在原生多模態架構上的創新與應用。商湯科技表示,致力於通過開源協作與場景落地雙輪驅動,將 NEO 打造為可擴展、可複用的下一代 AI 基礎設施,推動原生多模態技術從實驗室走向廣泛的產業化應用,加速構建下一代產業級原生多模態技術標準。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10