第 2 段增加了 OpenAI 在渥太华会议的细节；第 24 段增加了 OpenAI 的评论

Maria Cheng/Ryan Patrick Jones

路透渥太华2月25日 - OpenAI承认 (link)，在大规模枪击案嫌犯杰西-范-鲁特塞拉（Jesse Van Rootselaar）这位18岁青年涉嫌杀害8人和她自己之前几个月，该公司已禁用她的ChatGPT账户，这引起了人们对她过去在线活动的关注，并引发了人们的疑问：是否错过了防止加拿大最严重的大规模杀戮之一的机会 (link)。

OpenAI 不向警方报告 Van Rootselaar 的决定促使加拿大人工智能部长埃文-所罗门（Evan Solomon (link)）本周在渥太华召见该公司官员 (link)，并要求该公司采取新的安全措施。

不列颠哥伦比亚省小镇 Tumbler Ridge 发生的枪击案是最新一起悲剧，批评人士认为，与聊天机器人的互动可能预示甚至鼓励了 (link) 暴力。

犯罪专家指出，虽然有必要加强对人工智能平台和社交媒体的审查，但警方或其他当局可能错过了更多避免悲剧发生的机会。警方此前曾从范-鲁特塞拉尔家中拿走枪支，但后来又将其归还。警方还表示，他们知道她有精神健康问题的历史。

枪击始于嫌犯家人

警方称，范-鲁特塞拉尔在家中杀害了母亲和一名兄弟姐妹后开始了袭击，随后枪杀了一名教育工作者和五名学生，另有两人重伤住院。

加拿大皇家骑警表示，调查仍在进行中，有些问题还需经过相关立法或法庭程序。

"与此案无关的多伦多大学犯罪学教授帕特里克-沃森（Patrick Watson）说："这显然是一个存在很多问题的家庭。"但我们也需要对创建这些新平台的公司进行更严格的审查，因为这些平台基本上正在成为一个新的公共领域，而很少有人对此负责。"

在一篇已经删除的Reddit帖子中，Van Rootselaar说，她被诊断出患有多种心理健康问题，包括注意力缺陷多动障碍、抑郁症、强迫症，并且是自闭症谱系中的一员。

"“我第二次尝试蘑菇时就疯了，还把房子烧了，但我仍然想尝试其他替代品，”Van Rootselaar写道。"

Van Rootselaar 之前曾使用 Roblox Studio 应用程序制作了一款游戏，其中涉及在商场射击其他角色。

Roblox 告诉路透，在 Tumbler Ridge 大屠杀发生的第二天，Van Rootselaar 的账户及其内容已从 Roblox Studio 应用程序中删除，而且该游戏只有 7 次访问。

OpenAI 在一份声明中说，在发现 "滥用我们的模型助长暴力活动 "后，该公司已于去年 6 月封禁了 Van Rootselaar 的 ChatGPT 账户，并考虑是否将其移交执法部门。

该公司最终决定 "该账户的活动没有达到转介所需的更高门槛"，主要是因为 OpenAI 无法确定可信或迫在眉睫的策划。该公司表示，在这种情况下进行干预可能会让年轻人及其家人感到不安，也可能会引发隐私问题。

错失良机

渥太华大学（University of Ottawa）专门研究青少年心理健康和暴力预防的教授特蕾西-维兰库特（Tracy Vaillancourt）说，OpenAI未能将范-鲁特塞拉（Van Rootselaar）移交警方是 "错失良机"，但她也承认在保护用户隐私方面存在挑战。

"“使用 ChatGPT 的人可能会担心它会监视他们，但人工智能如此强大，应该有办法改进技术和我们作为一个社会如何减少可信的威胁，”Vaillancourt说。"

技术和人权律师辛西娅-邱（Cynthia Khoo）警告说，"如果人工智能公司可能被授权成为执法部门的私人监视部门，那将是一个错误的开始"，她说，对隐私的侵犯将不成比例地打击已经被边缘化的群体。

警方说，范-鲁特塞拉尔生为男性，但认定自己是女性，并于六年前开始变性。美国政府 2023 年的一份报告显示，95% 以上的大规模枪击案凶手是男性，变性人约占 2%。

不列颠哥伦比亚省省长戴维-艾比（David Eby）表示，如果OpenAI能够就范-鲁特塞拉尔的网上暴力活动向当局发出警告，那么Tumbler Ridge枪击案本可以避免，并呼吁这家科技公司提高透明度。

"“看起来，OpenAI 有机会阻止这场悲剧的发生，阻止这场可怕的生命损失，阻止不列颠哥伦比亚省的儿童死亡，”他周一表示。"

OpenAI 在声明中说，这次枪击事件是 "一场毁灭性的悲剧"，公司正竭尽全力支持正在进行的调查。

"“在枪手身份公开后，我们立即联系了执法部门，并与(警方) 联系，支持他们正在进行的工作，”该公司表示。"

该公司表示，在与加拿大政府官员会面后，已承诺在未来几天内采取更多后续措施。

(为便利非英文母语者，路透将其报导自动化翻译为数种其他语言。由于自动化翻译可能有误，或未能包含所需语境，路透不保证自动化翻译文本的准确性，仅是为了便利读者而提供自动化翻译。对于因为使用自动化翻译功能而造成的任何损害或损失，路透不承担任何责任。)