英伟达:从“一次性训练”的大模型到“后训练改进”的Agent,算力需求正在变化

华尔街见闻
Jul 19

英伟达正将其下一代Vera Rubin平台的核心价值主张从推理成本延伸至模型训练效率,以"每美元智能"(intelligence per dollar)这一新指标,押注智能体AI时代持续后训练将成为最核心的算力需求。

英伟达在官方博客中阐述,随着智能体AI(Agentic AI)的兴起,模型后训练已从一次性的收尾步骤演变为持续循环的核心工作负载。与传统生成式模型不同,智能体模型需要规划、调用工具并在运行中自主纠错,其所处环境每周都可能发生变化,这使得后训练的算力需求持续累积。英伟达表示,Vera Rubin平台专为这一工作负载协同设计,可在训练最大规模模型时仅需上一代Blackwell平台四分之一的GPU数量。

这一表述直接关系到英伟达的算力销售逻辑:后训练循环永不停止,意味着客户对GPU集群的需求将从项目制转向常态化,潜在市场规模随之扩大。Prime Intellect、Perplexity及Together AI等已在英伟达平台上运行后训练工作负载的企业,均已表态计划迁移或扩展至Vera Rubin平台。

后训练成为智能体时代的核心算力驱动力

英伟达在博客中对后训练的战略地位作出系统性阐述。预训练阶段赋予模型语言流畅性,而真正的"智能"——包括编写代码、规划多步骤任务、使用搜索工具及从错误中恢复——则在后训练阶段形成。

后训练采用强化学习(RL)技术:模型针对给定任务生成尝试(前向传播),该尝试被评分后更新模型权重(反向传播),经过数百万次迭代,模型能力逐步提升。英伟达指出,这一过程的算力消耗极为密集,需要数千个环境并行生成rollout,同时保持加速器满负荷运转。

英伟达将"每美元智能"定位为高于"每token成本"的上层指标:前者衡量推理工厂的运营效率,后者则衡量构建并持续维护一个值得部署的模型所需的投入是否合算。两者相互嵌套——降低每token成本同样降低了模型智能的构建成本,而更高的模型智能则提升了每个token的服务价值。

Nemotron Ultra提供可验证的后训练基准

为支撑上述主张,英伟达披露了旗下开放权重模型Nemotron 3 Ultra的后训练细节。该模型参数量达5500亿,采用混合专家(MoE)架构,后训练流程完整运行于NeMo RL框架之上。

在SWE-bench Verified这一真实世界编程基准测试中,Nemotron 3 Ultra得分71.7%,即在来自开源项目的真实软件缺陷中,约十个中有七个能够生成可通过项目自有测试的有效修复方案。英伟达表示,该基准测试结果可供验证,后训练方案亦完整公开。

英伟达同时指出,Blackwell平台已通过降低单次运行成本,使智能体时代所需的高频后训练在经济上具备可行性,而Vera Rubin平台将进一步延伸这一轨迹——支持更多rollout、更多并行环境以及永不停止的后训练周期。

头部客户验证平台能力,迁移计划浮出水面

多家已在英伟达平台上运行后训练工作负载的企业披露了具体技术细节,并表达了向Vera Rubin迁移的意向。

Prime Intellect持续在Blackwell平台上对前沿开放模型进行后训练,并使用NVIDIA Dynamo进行推理编排。该公司已将沙箱基础设施与NVIDIA Vera CPU集成,在与x86架构的对比测试中,Vera CPU在真实RL沙箱工作负载下平均吞吐量高出30%。Prime Intellect计划借助Vera Rubin扩展强化学习环境规模,并加速训练到推理的迭代循环。

Perplexity的RL后训练栈跨数百块英伟达GPU异步运行,其基于RDMA的权重传输引擎可在两秒内完成万亿参数模型在训练节点与推理节点之间的同步。经后训练的Qwen3 235B模型随后部署于NVIDIA GB200 NVL72系统之上。

Together AI则以服务形式提供后训练能力,涵盖监督微调、强化学习及直接偏好优化,通过API和SDK交付,目前运行于英伟达平台,并表示正寻求接入Vera Rubin平台。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10