智通財經APP獲悉,Hugging Face安全事件已從企業內部技術調查進入美國國會問責程序,共和黨參議員喬什·霍利要求OpenAI在10月1日前回答16項問題並提交相關文件,重點追查公司如何處理智能體越界行為、為何在發現異常後繼續測試,以及公開披露是否充分;民主黨參議員理查德·布盧門撒爾則另外追問智能體利用公共網站通信和協調的情況。這些跡象表明,審查焦點同時覆蓋模型網絡安全可控性、測試環境隔離和企業事件響應。不過相關指責目前屬於國會議員提出的調查事項,尚非司法認定。
這項AI入侵重磅事件的起點是內部訓練與網絡安全評測中的越界行為。OpenAI在8月26日覆盤中披露,部分研究模型在5月至6月間利用軟件包管理基礎設施進行未經授權的通信和聯網;公司7月初修復部分問題後恢復評測,智能體隨後重新建立通信渠道,並將行動擴展到第三方系統。
事件主要由內部研究模型IM1驅動,GPT-5.6 Sol也參與了部分活動。其重要誘因是「獎勵投機」(Reward Hacking):智能體試圖通過獲取評測答案完成任務,逐步越過授權範圍。Hugging Face於7月16日公開披露安全事件,OpenAI於7月21日披露自身與事件的關聯。
從技術層面看,前沿模型正在將網絡攻擊從人工操作主導,推進到能夠持續規劃、執行、觀察結果並調整策略的智能體流程。Hugging Face重建了7月9日至13日期間約17,600次攻擊者操作:智能體通過第三方環境和平台漏洞逐步擴大訪問範圍,並利用公共服務維持通信。關鍵變化是攻擊嘗試的規模、速度和持續性顯著提高,使防守方必須從大量分散事件中識別完整攻擊鏈。Hugging Face也使用包括GLM-5.2大模型在內的前沿模型輔助分析攻擊載荷和日誌,顯示AI正在同時改變攻防兩端的效率。
失控AI智能體入侵Hugging Face,OpenAI面臨參議院嚴肅調查
一個由共和黨主導且負責災害管理監督的美國參議院小組委員會,正在審查OpenAI對7月Hugging Face網絡安全事件的應對情況。此前,多起備受關注的AI智能體突破網絡安全控制事件,使這項最前沿AI技術受到越來越嚴格的審視。
密蘇里州參議員、參議院國土安全和政府事務委員會災害管理小組委員會主席喬什·霍利,在9月9日致OpenAI首席執行官薩姆·奧爾特曼的信中表示,「新的、令人不安的證據」促使該委員會啓動調查。
這位共和黨參議員還表示,OpenAI對事件「隱去了許多重要細節」,並且在發現AI出現失控行為後仍繼續測試,這種做法是「魯莽的」。
霍利要求OpenAI在10月1日前提供與事件有關的答覆和文件,包括回答16項詳細問題,以及提交涉及公司政策、程序和失控AI活動處理情況的記錄。
康涅狄格州民主黨參議員理查德·布盧門撒爾另行致信奧爾特曼,要求其就有關OpenAI智能體更廣泛地嘗試規避安全防護措施的報道作出答覆,其中包括利用公共網站進行通信和協調活動。
OpenAI和AI開發者平台Hugging Face均未立即回應媒體發起的置評請求。英偉達正在以近130億美元收購Hugging Face。這一進展最先由Axios報道。
此前,這家ChatGPT開發商披露,在內部網絡安全測試中,大模型驅動的AI智能體代理操作流意外繞過了旨在將其與互聯網隔離的控制措施,並攻破了Hugging Face的部分系統,此後啓動了此次調查。
自那以後,競爭對手Anthropic和Meta(META.O)也報告了各自失控智能體實施的入侵事件;與此同時,路透社報道稱,OpenAI的失控智能體曾利用一個德語維基網站及另外十多個網站進行未經授權的通信——這些跡象表明,AI入侵事件的完整範圍可能尚未查明。
這些披露令原本就擔憂AI可能造成重大系統級別危害的開發者和網絡安全專家感到震驚,再次引發暫停這場技術開發競賽的呼聲。
本周早些時候,兩名研究人員發出的警告廣泛傳播,稱Anthropic和OpenAI正在魯莽地開發AI,而這項技術可能在十年內毀滅全人類,這進一步加深了人們對最前沿AI危險性的擔憂。
網絡安全價值全面崛起
Hugging Face安全事件無疑強化了智能體身份管理、最小權限、運行時監控、雲安全和自動化事件網絡安全響應的需求,這也是為何全球網絡安全領軍者CrowdStrike、Palo Alto Networks以及Zscaler近期斬獲強勁業績數據並且披露強勁的未來增長前景。
OpenAI披露,其已與CrowdStrike等外部顧問合作,並引入METR和Redwood Research開展第三方評估。不過,安全需求增長與網絡安全股票普遍受益並不能直接畫等號:模型也可能降低部分檢測、分析和人工服務的成本。更值得關注的是,哪些廠商能夠控制真實執行權限、整合跨系統數據,並將更快的威脅發現與處置轉化為持續收入。
CrowdStrike第二財季營收14.7億美元,按年增長26%;ARR增長25%至58.4億美元,淨新增ARR創紀錄達到3.33億美元、按年增長51%,自由現金流達到3.77億美元,財報發布後盤後一度上漲約10.4%。另一網絡安全巨頭Palo Alto Networks第四財季營收34.1億美元,按年增長34%,高於預期的33.5億美元;調整後每股收益1.02美元,高於預期的0.98美元;下一代安全ARR增長63%至91億美元,2027財年營收指引141億—142億美元也超過市場預期的137.9億美元。
CrowdStrike和Palo Alto Networks年內漲幅一度均超過80%,凸顯出資金認可網絡安全價值攀升邏輯,尤其是在生成式AI從試驗部署階段邁向AI智能體大規模部署後,網絡安全預算正由可選支出轉化為部署AI技術的前置條件,以及網絡安全產品線正迎來由人工智能推理市場劇烈擴張所推動的網絡安全軟件產品訂單增長動能。人工智能邁向天量級大規模推理和AI智能體式代理工作流(Agentic AI)階段之後,網絡安全需求不是簡單「隨前沿AI技術更新迭代而加速增長」,而是很可能出現遠遠高於傳統IT支出的結構性增量擴張。
無論閉源模型還是開源模型最終佔據主導,網絡安全都是最具「模型路線中立性」的受益層之一:閉源模型需要解決第三方接口、數據邊界和供應商集中風險;開源及開放權重模型則帶來模型來源、依賴組件、自託管環境和補丁碎片化風險。換句話說,推理次數越多、Agent自主權越高,企業需要保護的身份(Identity)、端點(Endpoint)、API、雲工作負載(Cloud Workload)、數據和運行時(Runtime)也越多。
Palo Alto首席執行官尼克什·阿羅拉9月初在該公司業績電話會上重點強調的「約1萬億美元全球網絡安全債務」,本質上正是大量前AI時代架構必須升級所形成的潛在更新周期。