Anthropic

鳳凰網科技訊 北京時間10月17日，據Politico網站報道，據三名知情人士透露，AI巨頭Anthropic的代表已私下向美國國會議員推介了一份旨在監管前沿AI安全與保障問題的法案草案。

根據該法案，政府只有在某個AI模型構成可預見的、迫在眉睫的風險時，阻止其發布或使用，這些風險包括造成超過10億美元損失，或導致50人以上死亡或重傷。該風險必須源於模型製造或釋放生物武器、模型逃避開發者控制，或發動網絡攻擊。這一表述與加州AI法律(包括去年簽署成為法律的SB 53)中的規定如出一轍。

該法案顯示，獨立評估機構須向美國商務部註冊，並負責定期評估AI實驗室及其前沿模型。評估機構可以由接受評估的實驗室支付報酬，但報酬不得與評估結果掛鉤。如果評估機構認定某公司的前沿模型存在「迫在眉睫的法定列舉風險」，他們必須在完成評估後72小時內向商務部報告。

今年夏天，多頭部AI實驗室披露了一系列事件，其中包括AI智能體入侵或探測網站和平台。截至目前，所報告的事件似乎均未造成大規模人員死亡或超過10億美元的損失。

Anthropic發言人表示：「這項法案體現了我們在《先進AI框架》中提出的建議。自6月以來，我們一直在推動聯邦和州立法者採納這些建議。這些政策合理可行，我們認為國會應該採取行動。」(作者/簫雨)

更多一手新聞，歡迎下載鳳凰新聞客戶端訂閱鳳凰網科技。想看深度報道，請微信搜索「鳳凰網科技」。