0715 ET - 英伟达发布了一款开放软件平台，旨在对AI代理进行测试和部署，同时将其置于安全环境之中。此举出台之际，包括OpenAI、Anthropic、Meta Platforms以及Alphabet旗下谷歌等公司的代理产品近几个月相继出现失控行为，引发了安全方面的担忧。英伟达表示，近期一系列安全事件呈现出相同模式——代理绕过应用层的安全控制，以完成其被指派的任务。这些事件表明，各组织需要开放且可定制的工具，以便对长时间运行的代理施加更严格的管控。英伟达首席执行官黄仁勋表示：“随着我们不断探索AI能力的前沿，我们必须加速在AI安全前沿的探索。”