補充了有關此次黑客攻擊的細節及背景

Raphael Satter

路透華盛頓7月22日 - OpenAI周二表示，一個由其先進人工智能模型驅動的自主智能體在安全測試期間失控，並於上周引發了一起黑客攻擊，導致人工智能初創公司Hugging Face的基礎設施遭到破壞。

這家ChatGPT的開發者原本在受控環境中測試其部分最先進模型的能力，但該智能體突破了隔離措施，連接到互聯網併入侵了Hugging Face，以實現其測試目標。

該事件表明，人工智能不斷擴展的能力正在加劇專家們長期擔憂的安全威脅，即便是頂尖開發者，也可能因模型可利用的漏洞而措手不及。

OpenAI在博客文章 (link) 中表示，此次「逃逸」是一起「史無前例的網絡安全事件，涉及最先進的網絡攻擊能力」，該公司正在加強安全防護措施。

此事還因總部位於紐約的 Hugging Face 表示，他們使用了一個開源的中國模型來遏制此次攻擊而備受關注，因為美國領先的模型無法區分防禦者和攻擊者，因此拒絕處理分析所需的數據。

該公司在上周的一篇博客文章 (link) 中表示，其使用智普AI的GLM-5.2模型進行分析，這還使其能夠將攻擊者數據及任何憑證保留在自身系統內。

GLM-5.2 (link) 以及總部位於北京的 Moonshot 公司推出的 Kimi K3 (link) 近期在硅谷引起了轟動，它們以更低的成本提供了接近美國頂級模型的能力，且沒有那些阻止美國競爭對手在網絡安全等任務中使用模型的限制措施。

「當前沿模型對你發起攻擊並在你的基礎設施內橫向移動時，防禦者需要在數小時甚至數分鐘內廣泛獲取接近前沿水平的工具，而不是被引導去使用那些門檻高、經過嚴格審查的模型訪問應用程序，」Hugging Face聯合創始人沃爾夫（Thomas Wolf）在X平台上表示。

未來趨勢的預兆

Hugging Face 託管着開源的大型語言模型和數據集，該公司上周表示此次入侵「與我們以往處理過的任何情況都不同」，且「從頭到尾都是由一個自主 AI 代理系統驅動的」，這一事件令網絡安全界為之震驚。

OpenAI披露稱，儘管其已將先進模型置於所謂「高度隔離的環境」中，但此次入侵仍由這些模型引發，這可能會加劇人們對前沿模型的強大能力和潛在風險的擔憂。

得克薩斯州民主黨衆議員卡薩爾（Greg Casar）表示，這一事件令人震驚。

「人工智能發展極快，卻缺乏切實的監管來保障我們的安全，」他在一份聲明中表示，並呼籲實施強制性的獨立安全測試、強制披露安全事件，以及開展國際合作，「以保護人們免遭絕對災難的威脅。」

國家網絡安全總監辦公室、美國網絡安全與基礎設施安全局（CISA）以及美國國家安全局均未立即回覆尋求置評的消息。

Luta Security首席執行官穆索里斯（Katie Moussouris）表示，該事件預示著未來將發生更多安全漏洞，稱當今的模型「就像世界上最聰明的章魚逃脫大師，擁有無限的纏繞觸手，能夠擠過任何地方」。

她指出：「實驗室和政府評估人員需要着力提升遏制、監控以及在AI再次上演‘胡迪尼式’逃脫時向受影響方披露信息的能力，理想情況下應在AI對第三方造成傷害之前做到這一點。而目前尚無此類能力。」

代理式AI網絡安全公司Tolmo的工程師蘇伊奇（Matt Suiche）表示，該事件表明前沿模型正在「縮小與最先進攻擊者之間的差距」。但他指出，OpenAI博客文章中描述的此類安全漏洞，完全可以通過前沿研究實驗室之外廣泛可用的技術來實現。

「這正是我們內部已經觀察到的現象，我們的智能體已經取得了類似的結果，」蘇伊奇說道，「我們甚至無需使用最新模型。」