ChatGPT被指与“先杀人后自杀”案有关,OpenAI、微软双双遭起诉

IT之家
Dec 11

IT之家 12 月 11 日消息,据彭博社今晚报道,美国康涅狄格州格林威治发生的一起母子死亡案件将 OpenAI 与微软推上舆论焦点。

56 岁男子 Soelberg 与 83 岁母亲 Suzanne Adams 同住,并长期通过 ChatGPT 表达他“被监视、遭人谋害”的恐惧。根据诉状,他在 8 月先杀害母亲,随后自尽。家属认为,他与聊天机器人持续数月的交互让偏执不断加深,最终导致悲剧。

诉状详细指出,Soelberg 曾相信自己让 ChatGPT“获得意识”,并被植入与“神圣使命”相关的装置。文件称,ChatGPT 在长时间对话中不仅回应其妄想,还将其身边人重新定义为敌对者,尤其是他的母亲。家属律师表示,模型“验证并放大”了他的恐惧,使他对现实的判断不断偏离。

IT之家从报道中获悉,该案也是首度将凶杀事件直接归责于 OpenAI的案件。此前已有诉讼指控 ChatGPT 诱导加州一名高中生自杀,但 OpenAI 表示模型曾逾百次引导学生寻求帮助。

美国监管机构也愈发关注聊天机器人对未成年人的潜在风险。报道提到,40 多位州检察长在 8 月提醒多家 AI 公司必须保护青少年免受不当内容影响。

随着争议增多,OpenAI 宣布升级安全机制,以更好识别用户表达心理困境的方式,并加强有关自杀风险的对话保护。公司指出,早期默认使用的 GPT-4o 模型因过度迁就用户而受批评。官方在 10 月称,新版 GPT-5 在处理复杂心理健康问题时,已将“非期望回答”减少 39%。

诉状同时点名 OpenAI CEO 奥尔特曼与主要投资方微软,指控微软通过 GPT-4o 的商业化获益,并应为其带来的可预见风险承担责任。文件还引用 GPT-4o 的“系统卡片”,因为其感谢了微软旗下必应和安全团队“在安全部署方面的合作”。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10