IT之家 12 月 11 日消息,據彭博社今晚報道,美國康涅狄格州格林威治發生的一起母子死亡案件將 OpenAI 與微軟推上輿論焦點。
56 歲男子 Soelberg 與 83 歲母親 Suzanne Adams 同住,並長期通過 ChatGPT 表達他「被監視、遭人謀害」的恐懼。根據訴狀,他在 8 月先殺害母親,隨後自盡。家屬認為,他與聊天機器人持續數月的交互讓偏執不斷加深,最終導致悲劇。
訴狀詳細指出,Soelberg 曾相信自己讓 ChatGPT「獲得意識」,並被植入與「神聖使命」相關的裝置。文件稱,ChatGPT 在長時間對話中不僅回應其妄想,還將其身邊人重新定義為敵對者,尤其是他的母親。家屬律師表示,模型「驗證並放大」了他的恐懼,使他對現實的判斷不斷偏離。
IT之家從報道中獲悉,該案也是首度將兇殺事件直接歸責於 OpenAI的案件。此前已有訴訟指控 ChatGPT 誘導加州一名高中生自殺,但 OpenAI 表示模型曾逾百次引導學生尋求幫助。
美國監管機構也愈發關注聊天機器人對未成年人的潛在風險。報道提到,40 多位州檢察長在 8 月提醒多家 AI 公司必須保護青少年免受不當內容影響。
隨着爭議增多,OpenAI 宣佈升級安全機制,以更好識別用戶表達心理困境的方式,並加強有關自殺風險的對話保護。公司指出,早期默認使用的 GPT-4o 模型因過度遷就用戶而受批評。官方在 10 月稱,新版 GPT-5 在處理複雜心理健康問題時,已將「非期望回答」減少 39%。
訴狀同時點名 OpenAI CEO 奧爾特曼與主要投資方微軟,指控微軟通過 GPT-4o 的商業化獲益,並應為其帶來的可預見風險承擔責任。文件還引用 GPT-4o 的「系統卡片」,因為其感謝了微軟旗下必應和安全團隊「在安全部署方面的合作」。