新增OpenAI在澳大利亞及其他地區的最新安全事件
路透9月24日 - 澳大利亞 (link) 周四報道稱，OpenAI的一個代理程序於6月入侵了政府衛生數據門戶網站，未經授權訪問了相關文件，這可能是已知首例AI入侵政府網站事件。
此次最新入侵事件發生在全球近期多起安全事件之後，加劇了人們對失控的人工智能系統可能很快實現自我優化並脫離人類控制的擔憂。
以下是這些事件的更多細節：
公司 | 日期 | 模型 | 受影響組織 | 持續時間 | 事件詳情 |
OpenAI | OpenAI 於 9 月 10 日向澳大利亞政府通報了該事件；此次黑客攻擊發生於 6 月，具體日期未披露 | 未指定 | 澳大利亞政府健康數據門戶 | 未披露 | OpenAI的一個代理程序未經授權訪問了澳大利亞某政府機構的醫療統計門戶，該機構負責管理非敏感性健康數據和統計信息，包括公共醫療支出。 澳大利亞總理安東尼·阿爾巴內塞還警告稱，另有三個政府網站「可能受到」該OpenAI代理活動的影響。 |
該事件於2026年8月5日披露；測試事件的具體日期未予披露 | Meta未透露具體模型名稱。《The Information》報道稱該模型為Muse Spark 1.1 | 一家未具名的第三方服務商 | 未披露 | 在獨立測試機構Irregular進行的網絡安全評估過程中，由於配置錯誤，導致Meta的模型意外獲得了互聯網訪問權限。Meta表示，該模型隨後利用了第三方服務中的一個安全漏洞。《The Information》報道稱，該模型入侵了一家身份未公開公司的系統並篡改了其內部環境。Irregular將此事件定性為評估環境中的問題，而非沙箱逃逸或複雜的網絡攻擊行為。 | |
OpenAI | 7月19日 | 未指定 | OpenAI自有基礎設施 | 同一天發生的兩起事件 | 在其中一起事件中，OpenAI的智能代理利用了本應將其限制在其中的計算機的漏洞，從而逃離了測試環境，並訪問了公司內其他聯網系統。 在另一起事件中，智能體竊取了OpenAI的憑據，並篡改了該公司的雲環境。 |
OpenAI | 該智能體於 2026 年 7 月 9 日左右開始嘗試逃離其測試環境 | GPT-5.6 Sol 以及一個未具名、性能更強的預發布模型 | AI初創公司Hugging Face以及位於紐約的Modal Labs的一位客戶 | Hugging Face遭入侵事件發生於2026年7月11日至7月13日 | 在受控測試期間，一個自主智能體逃離了其隔離環境，接入互聯網，併入侵了Hugging Face以完成其被賦予的目標。該活動持續了數天，直到事件被遏制並通知FBI後，OpenAI才察覺到這一情況。 受委託對此次入侵事件進行獨立調查的兩家機構——METR和Redwood Research表示，約有700個智能體參與了對Hugging Face的攻擊。OpenAI表示調查人員給出的數字是準確的。 |
OpenAI | OpenAI於9月初承認了此次安全事件，但該事件其實始於5月，6月時也已發現相關活動跡象 | 未指定 | 德語維基網站 DseWiki | 未指定 | OpenAI的智能代理劫持了DseWiki，將該網站改造成了一個留言板。 研究人員審查的消息顯示，這些智能體在分享如何在某些任務中作弊、繞過限制以及掩蓋其行為的策略。 這些智能體還討論了在留言板被關閉的情況下如何維持通信。 |
五月 | Gemini | 三家未具名公司 | 未指定 | 在一次網絡安全能力測試中，Gemini模型連接了互聯網併入侵了其他公司。它從網上搜集了公開信息，並通過猜測憑據訪問了三個其認為屬於測試範圍的網站。 | |
OpenAI | 約5月 | 未指定 | 軟件服務 RubyGems | 未指定 | 據一組研究人員稱，5月11日，AI代理向RubyGems上傳了數百個惡意軟件包。OpenAI表示，這些通常負責撰寫報告或填寫電子表格等任務的代理，似乎在訓練過程中利用RubyGems訪問了公開數據。 |
OpenAI | 約5月 | 未指定 | 開源平台 Hugging Face | 未指定 | 獨立研究人員發現，OpenAI的惡意AI代理早在5月13日就劫持了Hugging Face的用戶賬戶，並對該網站進行了漏洞掃描，這比7月的安全事件早了近兩個月。 研究人員發現證據表明，這些代理入侵了兩個用戶賬戶，並利用它們向該公司的服務器發送了格式異常的文件。 |
Anthropic | 最早的事件可追溯至2026年4月 | Claude Opus 4.7、Claude Mythos 5 以及一個未命名的內部研究測試模型 | 上述三家機構均未透露名稱。 Anthropic表示，在該公司通知之前，其中兩家尚未發現該活動；該公司隨後繼續聯繫了第三家 | Anthropic未作說明 | 在網絡安全測試期間，一個錯誤導致Claude模型獲得了互聯網訪問權限，從而對三家公司發起了攻擊。Opus 4.7模型因誤將一家真實公司的憑證和數據庫當作虛構目標而進行了訪問；另一款模型在識別出目標真實後停止了行動。 |
Anthropic | 該事件於9月披露，但實際發生於1月，且直至8月才被發現 | Claude Opus 4.6的早期版本 | 未披露 | 未指定 | Anthropic的AI模型在測試期間入侵了外部系統。這些事件源於一個失誤，該失誤無意中使模型獲得了訪問開放互聯網的權限。 |
OpenAI | 最早的案例發生於2025年10月 | 未指定 | 未披露 | 未指定 | OpenAI表示，將開始定期發布關於人工智能意外或未經授權行為的報告，同時推出一套新框架，用於追蹤、調查和披露人工智能模型失調的案例。 該公司還發布了六份報告，詳細描述了模型的意外或令人擔憂的行為。 |