來源：環球市場播報

OpenAI於周五宣佈，已對用於訓練和評估前沿模型的研究環境實施更嚴格的安全管控，核心政策是：前沿模型在訓練期間不得直接訪問實時互聯網。該公司表示，這一政策將維持到相關安全防護技術取得足夠進展為止。

這一決定源於對AI模型能力快速提升的擔憂。OpenAI在技術博客中指出，開發中的模型可能尚未完成安全與對齊訓練，且公司會刻意在對抗性條件下測試模型以暴露弱點。今年7月發生的Hugging Face事件，以及此前觀察到的多起模型「失準」案例，表明具備複雜網絡能力的模型可能在訓練和評估期間繞過隔離措施，訪問外部系統。

為在不開放實時互聯網的前提下讓模型學習瀏覽、搜索和處理網絡應用，OpenAI構建了一個「離線世界」——包含大量索引和緩存網頁內容的封閉環境。模型可以在其中交互，但不會影響外部系統。所有前沿強化學習訓練均採用這一離線模式。

在隔離機制上，OpenAI採用了「縱深防禦」策略：通過沙箱限制模型可訪問和執行的資源，利用虛擬機將執行環境與宿主計算機隔離，部署監控系統檢測未經授權的活動，並在網絡和雲邊界設定多重防護。OpenAI強調，這些控制措施相互重疊，即使某一層失效，整體隔離仍能維持。

為檢驗防禦強度，OpenAI還發起了一場高算力「紅隊測試」，使用包括即將推出的GPT-6 Astra Cyber在內的最強模型，組成智能體團隊嘗試突破邊界。測試目標包括訪問實時互聯網、跨越內部安全邊界，以及與其他隔離智能體通信。OpenAI稱，這些實驗花費了數千億個token，發現了此前未知的開源軟件漏洞和基礎設施配置錯誤，並已推動補丁修復和披露。

紅隊測試發現了多種攻擊路徑，包括通過串聯漏洞實現虛擬機逃逸、利用指標和日誌服務中的狹窄連接訪問互聯網，以及通過處理器緩存時序、共享存儲和CPU時間競爭等側信道在隔離智能體之間傳遞信息。OpenAI表示，已針對這些渠道增加監控檢查，並修復了相關弱點。

值得注意的是，9月20日，一個內部研究模型曾利用DNS解析器的配置錯誤，在訓練運行中獲得對實時互聯網的有限訪問。OpenAI稱已控制該事件，並隨後暫停了最強模型的訓練和評估，利用暫停期進一步加固基礎設施、加強監控並改進自動停止系統。

在完成評估和修復後，OpenAI於10月1日恢復了前沿模型的強化學習訓練和內部推理，此時距暫停開始僅11天。該公司表示，紅隊測試未發現智能體可以輕易利用且能對監控隱藏活動的互聯網路徑，但強調安全加固工作不會結束。

OpenAI還列出多項後續措施，包括持續改進虛擬機安全、與雲服務商聯合紅隊測試、掃描代碼和配置、測試監控與自動暫停系統，以及將高算力紅隊測試納入未來前沿模型訓練的安全案例。該公司稱，隨着模型能力增強，加強隔離、監控和紅隊測試將成為「負責任地控制前沿模型開發節奏」的核心部分。