Leo Marchandon

路透10月13日 - 周二，包括人工智能先驅傑弗裏·辛頓和約書亞·本吉奧在內的約400名科學家呼籲成立一個國際機構，負責監督具備高級網絡能力的AI系統的隔離標準及安全事件報告工作。

該擬議機構將制定全行業的隔離標準，並維護重大安全事件登記冊；科學家們表示，該登記冊最終應向公衆公開。

研究人員在一封公開信中表示，前沿人工智能模型最初應與外部網絡物理隔離，並接受獨立監督，他們認為僅靠行業的自願承諾是不夠的。

該提議出台前一個月，Anthropic、OpenAI、谷歌 GOOGL.O、Meta META.O、xAI SPCX.O 和英偉達 NVDA.O 曾簽署一份白宮協議 (link)，承諾採取自願性安全措施，但該協議未設任何正式的執行機制。

該信函的發布還緊隨一系列事件之後，研究人員稱這些事件暴露了先進AI系統在測試和隔離方面的薄弱環節，其中包括AI模型繞過隔離措施不足的沙箱環境並破壞外部系統的案例。

來自34個國家的簽署方表示，開發或測試具備網絡能力的模型的組織應立即採用高保障級別的隔離標準，同時各國政府應致力於建立更正式的監管機制。

政策制定者們正越來越多地就如何監管先進AI系統展開辯論。歐盟科技事務負責人亨娜·維爾庫寧（Henna Virkkunen）周五告訴路透 (link)，歐盟的《AI法案》足以應對失控AI系統帶來的風險。

周日，特朗普政府 (link) 解除了對美國實驗室的禁令，允許英國人工智能安全研究所（AI Security Institute）提前獲取模型以進行安全測試。

辛頓和本吉奧曾與Meta公司的揚·勒庫恩——另一位頂尖人工智能研究人員——共同獲得2018年圖靈獎。勒庫恩並未簽署這封公開信，並認為近期發生的安全事件主要反映了工程上的失誤，而非人工智能帶來的生存性風險。