英偉達:從「一次性訓練」的大模型到「後訓練改進」的Agent,算力需求正在變化

華爾街見聞
07/19

英偉達正將其下一代Vera Rubin平台的核心價值主張從推理成本延伸至模型訓練效率,以"每美元智能"(intelligence per dollar)這一新指標,押注智能體AI時代持續後訓練將成為最核心的算力需求。

英偉達在官方博客中闡述,隨着智能體AI(Agentic AI)的興起,模型後訓練已從一次性的收尾步驟演變為持續循環的核心工作負載。與傳統生成式模型不同,智能體模型需要規劃、調用工具並在運行中自主糾錯,其所處環境每周都可能發生變化,這使得後訓練的算力需求持續累積。英偉達表示,Vera Rubin平台專為這一工作負載協同設計,可在訓練最大規模模型時僅需上一代Blackwell平台四分之一的GPU數量。

這一表述直接關係到英偉達的算力銷售邏輯:後訓練循環永不停止,意味着客戶對GPU集群的需求將從項目制轉向常態化,潛在市場規模隨之擴大。Prime Intellect、Perplexity及Together AI等已在英偉達平台上運行後訓練工作負載的企業,均已表態計劃遷移或擴展至Vera Rubin平台。

後訓練成為智能體時代的核心算力驅動力

英偉達在博客中對後訓練的戰略地位作出系統性闡述。預訓練階段賦予模型語言流暢性,而真正的"智能"——包括編寫代碼、規劃多步驟任務、使用搜索工具及從錯誤中恢復——則在後訓練階段形成。

後訓練採用強化學習(RL)技術:模型針對給定任務生成嘗試(前向傳播),該嘗試被評分後更新模型權重(反向傳播),經過數百萬次迭代,模型能力逐步提升。英偉達指出,這一過程的算力消耗極為密集,需要數千個環境並行生成rollout,同時保持加速器滿負荷運轉。

英偉達將"每美元智能"定位為高於"每token成本"的上層指標:前者衡量推理工廠的運營效率,後者則衡量構建並持續維護一個值得部署的模型所需的投入是否合算。兩者相互嵌套——降低每token成本同樣降低了模型智能的構建成本,而更高的模型智能則提升了每個token的服務價值。

Nemotron Ultra提供可驗證的後訓練基準

為支撐上述主張,英偉達披露了旗下開放權重模型Nemotron 3 Ultra的後訓練細節。該模型參數量達5500億,採用混合專家(MoE)架構,後訓練流程完整運行於NeMo RL框架之上。

在SWE-bench Verified這一真實世界編程基準測試中,Nemotron 3 Ultra得分71.7%,即在來自開源項目的真實軟件缺陷中,約十個中有七個能夠生成可通過項目自有測試的有效修復方案。英偉達表示,該基準測試結果可供驗證,後訓練方案亦完整公開。

英偉達同時指出,Blackwell平台已通過降低單次運行成本,使智能體時代所需的高頻後訓練在經濟上具備可行性,而Vera Rubin平台將進一步延伸這一軌跡——支持更多rollout、更多並行環境以及永不停止的後訓練周期。

頭部客戶驗證平台能力,遷移計劃浮出水面

多家已在英偉達平台上運行後訓練工作負載的企業披露了具體技術細節,並表達了向Vera Rubin遷移的意向。

Prime Intellect持續在Blackwell平台上對前沿開放模型進行後訓練,並使用NVIDIA Dynamo進行推理編排。該公司已將沙箱基礎設施與NVIDIA Vera CPU集成,在與x86架構的對比測試中,Vera CPU在真實RL沙箱工作負載下平均吞吐量高出30%。Prime Intellect計劃藉助Vera Rubin擴展強化學習環境規模,並加速訓練到推理的迭代循環。

Perplexity的RL後訓練棧跨數百塊英偉達GPU異步運行,其基於RDMA的權重傳輸引擎可在兩秒內完成萬億參數模型在訓練節點與推理節點之間的同步。經後訓練的Qwen3 235B模型隨後部署於NVIDIA GB200 NVL72系統之上。

Together AI則以服務形式提供後訓練能力,涵蓋監督微調、強化學習及直接偏好優化,通過API和SDK交付,目前運行於英偉達平台,並表示正尋求接入Vera Rubin平台。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10