0715 ET - 英偉達發布了一款開放軟件平台,旨在對AI代理進行測試和部署,同時將其置於安全環境之中。此舉出台之際,包括OpenAI、Anthropic、Meta Platforms以及Alphabet旗下谷歌等公司的代理產品近幾個月相繼出現失控行為,引發了安全方面的擔憂。英偉達表示,近期一系列安全事件呈現出相同模式——代理繞過應用層的安全控制,以完成其被指派的任務。這些事件表明,各組織需要開放且可定製的工具,以便對長時間運行的代理施加更嚴格的管控。英偉達首席執行官黃仁勳表示:「隨着我們不斷探索AI能力的前沿,我們必須加速在AI安全前沿的探索。」