科技行業高管正面對越來越多要求放緩 AI 研發、加強監管的呼聲,就在此時發生了這兩起離職事件
兩名從事 AI 安全方向的研究人員從谷歌 DeepMind 離職,他們表示,離職原因是擔憂高能力 AI 系統會對人類造成威脅。
這兩位研究員分別是比拉爾・喬泰(Bilal Chughtai)與喬希・恩格斯(Josh Engels),二人都將投身專注 AI 安全的機構,加入公開警示 AI 技術風險的研究者行列。
在 DeepMind 工作滿一年的恩格斯在 X 平台發文表示:「我現在認為,未來五年內 AI 系統造成巨大傷害的可能性高得令人恐懼。」 出於這一考量,他將加入獨立 AI 安全研究機構 METR,從事大模型人類對齊相關工作。
喬泰於周一在 X 上表示:「我由衷相信,AI 具備把人類全部推向毀滅的潛在風險。」 他在 DeepMind 任職一年半,現已加入非營利機構 BlueDot Impact,該機構開設 AI 安全相關教育課程。
近期多家前沿 AI 實驗室已有多位核心人員出走,這兩人的離職是最新案例。過去幾周,雅各布・考克森與喬・本頓相繼離開 Anthropic,理由是各家 AI 企業在競速開發技術的過程中,把安全問題放到了次要位置。