第 2 段增加了 OpenAI 在渥太華會議的細節；第 24 段增加了 OpenAI 的評論
OpenAI在襲擊前封禁了據稱槍手的ChatGPT賬戶，但沒有向警方報告
專家呼籲加強對人工智能平台和社交媒體的審查
隱私問題使加強對人工智能平台風險的監控變得更加複雜
Maria Cheng/Ryan Patrick Jones
路透渥太華2月25日 - OpenAI承認 (link)，在大規模槍擊案嫌犯傑西-範-魯特塞拉（Jesse Van Rootselaar）這位18歲青年涉嫌殺害8人和她自己之前幾個月，該公司已禁用她的ChatGPT賬戶，這引起了人們對她過去在線活動的關注，並引發了人們的疑問：是否錯過了防止加拿大最嚴重的大規模殺戮之一的機會 (link)。
OpenAI 不向警方報告 Van Rootselaar 的決定促使加拿大人工智能部長埃文-所羅門（Evan Solomon (link)）本周在渥太華召見該公司官員 (link)，並要求該公司採取新的安全措施。
不列顛哥倫比亞省小鎮 Tumbler Ridge 發生的槍擊案是最新一起悲劇，批評人士認為，與聊天機器人的互動可能預示甚至鼓勵了 (link) 暴力。
犯罪專家指出，雖然有必要加強對人工智能平台和社交媒體的審查，但警方或其他當局可能錯過了更多避免悲劇發生的機會。警方此前曾從範-魯特塞拉爾家中拿走槍支，但後來又將其歸還。警方還表示，他們知道她有精神健康問題的歷史。
槍擊始於嫌犯家人
警方稱，範-魯特塞拉爾在家中殺害了母親和一名兄弟姐妹後開始了襲擊，隨後槍殺了一名教育工作者和五名學生，另有兩人重傷住院。
加拿大皇家騎警表示，調查仍在進行中，有些問題還需經過相關立法或法庭程序。
"與此案無關的多倫多大學犯罪學教授帕特里克-沃森（Patrick Watson）說："這顯然是一個存在很多問題的家庭。"但我們也需要對創建這些新平台的公司進行更嚴格的審查，因為這些平台基本上正在成為一個新的公共領域，而很少有人對此負責。"
在一篇已經刪除的Reddit帖子中，Van Rootselaar說，她被診斷出患有多種心理健康問題，包括注意力缺陷多動障礙、抑鬱症、強迫症，並且是自閉症譜系中的一員。
"「我第二次嘗試蘑菇時就瘋了，還把房子燒了，但我仍然想嘗試其他替代品，」Van Rootselaar寫道。"
Van Rootselaar 之前曾使用 Roblox Studio 應用程序製作了一款遊戲，其中涉及在商場射擊其他角色。
Roblox 告訴路透，在 Tumbler Ridge 大屠殺發生的第二天，Van Rootselaar 的賬戶及其內容已從 Roblox Studio 應用程序中刪除，而且該遊戲只有 7 次訪問。
OpenAI 在一份聲明中說，在發現 "濫用我們的模型助長暴力活動 "後，該公司已於去年 6 月封禁了 Van Rootselaar 的 ChatGPT 賬戶，並考慮是否將其移交執法部門。
該公司最終決定 "該賬戶的活動沒有達到轉介所需的更高門檻"，主要是因為 OpenAI 無法確定可信或迫在眉睫的策劃。該公司表示，在這種情況下進行干預可能會讓年輕人及其家人感到不安，也可能會引發隱私問題。
錯失良機
渥太華大學（University of Ottawa）專門研究青少年心理健康和暴力預防的教授特蕾西-維蘭庫特（Tracy Vaillancourt）說，OpenAI未能將範-魯特塞拉（Van Rootselaar）移交警方是 "錯失良機"，但她也承認在保護用戶隱私方面存在挑戰。
"「使用 ChatGPT 的人可能會擔心它會監視他們，但人工智能如此強大，應該有辦法改進技術和我們作為一個社會如何減少可信的威脅，」Vaillancourt說。"
技術和人權律師辛西婭-邱（Cynthia Khoo）警告說，"如果人工智能公司可能被授權成為執法部門的私人監視部門，那將是一個錯誤的開始"，她說，對隱私的侵犯將不成比例地打擊已經被邊緣化的羣體。
警方說，範-魯特塞拉爾生為男性，但認定自己是女性，並於六年前開始變性。美國政府 2023 年的一份報告顯示，95% 以上的大規模槍擊案兇手是男性，變性人約佔 2%。
不列顛哥倫比亞省省長戴維-艾比（David Eby）表示，如果OpenAI能夠就範-魯特塞拉爾的網上暴力活動向當局發出警告，那麼Tumbler Ridge槍擊案本可以避免，並呼籲這家科技公司提高透明度。
"「看起來，OpenAI 有機會阻止這場悲劇的發生，阻止這場可怕的生命損失，阻止不列顛哥倫比亞省的兒童死亡，」他周一表示。"
OpenAI 在聲明中說，這次槍擊事件是 "一場毀滅性的悲劇"，公司正竭盡全力支持正在進行的調查。
"「在槍手身份公開後，我們立即聯繫了執法部門，並與(警方) 聯繫，支持他們正在進行的工作，」該公司表示。"
該公司表示，在與加拿大政府官員會面後，已承諾在未來幾天內採取更多後續措施。
(為便利非英文母語者，路透將其報導自動化翻譯為數種其他語言。由於自動化翻譯可能有誤，或未能包含所需語境，路透不保證自動化翻譯文本的準確性，僅是為了便利讀者而提供自動化翻譯。對於因為使用自動化翻譯功能而造成的任何損害或損失，路透不承擔任何責任。)