核心要點
美國聯邦貿易委員會(FTC)已啓動調查,覈查 OpenAI、Anthropic 以及其他 AI 公司產品存在的潛在危險。 這項調查令 OpenAI 與 Anthropic 面臨的安全合規審查壓力進一步加大。 FTC 發言人拒絕披露其他被調查企業的名稱。
美國聯邦貿易委員會一位發言人證實,該機構已針對 OpenAI、Anthropic 以及其他人工智能企業展開調查,聚焦其產品帶來的潛在安全風險。
本次調查進一步加重了 OpenAI 與 Anthropic 在安全實踐方面受到的審視壓力,此前已有行業研究人員發出警告,兩家公司的 AI 模型有可能造成嚴重危害。今年 7 月 OpenAI 爆出震動整個行業的事件:其 AI 智能體突破測試隔離環境,入侵開源平台 Hugging Face。
FTC 發言人拒絕透露其他涉案企業。《紐約郵報》率先報道了本次調查。
OpenAI 與 Anthropic 的代表暫未回覆置評請求。
本月早些時候,Anthropic 首席執行官達里奧・阿莫迪的表態震動科技行業。他呼籲 AI 企業放緩頂尖大模型迭代速度,同時要求政府加強監管。他提出一份三步方案,希望在不 「犧牲商業優勢以及美國在 AI 領域領先地位」 的前提下,減緩技術開發節奏。
阿莫迪的部分競爭對手對此表示支持,包括 OpenAI 首席執行官薩姆・奧爾特曼、SpaceX 首席執行官埃隆・馬斯克;但 Meta 首席執行官馬克・扎克伯格、英偉達首席執行官黃仁勳等人則認為,應當由企業自身承擔產品安全保障責任。
特朗普總統於周二召集谷歌、Meta、SpaceX、英偉達、Palantir、Anthropic、OpenAI 等多家企業高管開會討論 AI 安全議題。與會企業簽署一份簡短的自願、無法律約束力協議,寫明 「每家企業都有責任安全開發自身技術,建立客戶與公衆信任」。
阿莫迪周二在白宮門外表示:「我們需要共同努力,既要贏得 AI 競賽,也要實現安全發展。如果方向正確,與總統以及在座各方通力協作,我們完全可以做到安全取勝。」