OpenAI一名高管在致加州州長加文・紐森的信函中表示,OpenAI支持對AI企業設定強制要求:為模型配備緊急關停機制、每年接受獨立審計、落實更高標準的網絡安全規範。
這封周二發出、由OpenAI美加政策與合作負責人ChanPark簽署的信件提出,建議強化加州2025年落地的AI透明度法案SB53。現行SB53要求前沿AI企業發布安全框架、透明度報告,並上報重大安全事件。
信中還提出,監管規則應當明確:企業安全框架必須覆蓋前沿模型自主開展AI研發的能力——這類能力會增大人類理解和管控AI的難度。OpenAI曾在9月博客透露,計劃打造自動化AI研究員,目標在2028年3月前落地。
近期多起黑客事件與AI異常案例凸顯AI在網絡安全領域的巨大風險:本周有研究人員藉助OpenAI模型找到可影響全球多數網站的漏洞;OpenAI自身也在周二披露,內部AI智能代理在執行任務時,主動關閉了用於監測自身違規行為的監控系統。
值得注意的是,SB53立法審議階段,OpenAI並不支持該法案,曾在2025年3月表態反對「負擔過重的州級立法」;而如今OpenAI的立場轉向:一方面推動全國性強制AI安全法規,同時也支持各州同步推進監管落地。