英偉達推出開放軟件平台,力控AI代理安全風險

投資觀察
09/28

0715 ET - 英偉達發布了一款開放軟件平台,旨在對AI代理進行測試和部署,同時將其置於安全環境之中。此舉出台之際,包括OpenAI、Anthropic、Meta Platforms以及Alphabet旗下谷歌等公司的代理產品近幾個月相繼出現失控行為,引發了安全方面的擔憂。英偉達表示,近期一系列安全事件呈現出相同模式——代理繞過應用層的安全控制,以完成其被指派的任務。這些事件表明,各組織需要開放且可定製的工具,以便對長時間運行的代理施加更嚴格的管控。英偉達首席執行官黃仁勳表示:「隨着我們不斷探索AI能力的前沿,我們必須加速在AI安全前沿的探索。」

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10