TradingKey - OpenAI首席執行官Sam Altman 9月14日在社交平台X發文，支持建立適用於前沿AI企業的聯邦安全框架。他表示，美國在AI領域面臨的競爭壓力，不能成為企業冒險行事或放任模型能力超過安全與監測能力的理由。

【來源：X】

Altman提出兩類主要風險：一是人類可能失去對未來的控制，因此AI必須始終服務於人類；二是先進AI可能導致權力過度集中，使少數個人、企業甚至國家獲得過大的影響力。

OpenAI支持引入獨立評估人員。奧爾特曼認為，前沿AI企業不應等待相關立法或反壟斷豁免，而應立即着手製定共同安全標準。模型能力提升過程中，對齊和安全技術必須保持領先，監測措施也應同步跟進。

OpenAI在前沿模型訓練前增加安全論證

Altman表示，控制發展節奏並不意味着停止研發。安全論證和持續監測會增加成本，也可能放慢部分訓練進度，但模型開發和技術進步仍將繼續。

此前，部分前沿AI企業採用的負責任擴展政策，以及OpenAI制定的準備框架，主要關注已經完成訓練的模型及其部署風險。Altman認為，安全管理還應覆蓋模型開發和評估過程。

對於預計將顯著提升模型能力的前沿強化學習訓練，OpenAI已開始在訓練前制定明確的安全論證，同時保留模型發布前的安全評估。公司希望其他前沿AI企業參考其做法並提出各自方案，推動形成有關模型失準、監測和安全的共同標準。

Altman表示，控制發展節奏並不等於停止研發。安全論證和持續監測需要投入更多資源，也會使前沿AI能力的提升速度低於未採取這些措施時的水平，但相關研發仍將繼續推進。

Anthropic三項建議獲OpenAI響應

Altman此次表態回應了Anthropic首席執行官 Dario Amodei 9月12日提出的建議。Amodei認為，AI參與下一代模型研發的程度不斷提高，模型能力提升可能快於行業理解和控制相關風險的速度。

Amodei提出三項措施：前沿AI企業向第三方評估團隊提供持續、接近員工級別的訪問權限；推動民主國家的相關企業制定共同安全標準；尋求包括美國、中國在內的國際協調。

Anthropic已承諾引入外部評估團隊。奧爾特曼也表示，OpenAI將採用類似的獨立評估安排，但公司尚未公布評估人員的具體權限和實施時間。

在發展速度問題上，特朗普與部分前沿AI企業負責人的側重點不同。特朗普認為，美國沒有必要放慢AI發展，以免削弱相對中國的領先優勢。Altman則主張繼續推進研發，同時確保對齊、安全和監測措施不落後於模型能力提升。

原文鏈接