科技行业高管正面对越来越多要求放缓 AI 研发、加强监管的呼声,就在此时发生了这两起离职事件
两名从事 AI 安全方向的研究人员从谷歌 DeepMind 离职,他们表示,离职原因是担忧高能力 AI 系统会对人类造成威胁。
这两位研究员分别是比拉尔・乔泰(Bilal Chughtai)与乔希・恩格斯(Josh Engels),二人都将投身专注 AI 安全的机构,加入公开警示 AI 技术风险的研究者行列。
在 DeepMind 工作满一年的恩格斯在 X 平台发文表示:“我现在认为,未来五年内 AI 系统造成巨大伤害的可能性高得令人恐惧。” 出于这一考量,他将加入独立 AI 安全研究机构 METR,从事大模型人类对齐相关工作。
乔泰于周一在 X 上表示:“我由衷相信,AI 具备把人类全部推向毁灭的潜在风险。” 他在 DeepMind 任职一年半,现已加入非营利机构 BlueDot Impact,该机构开设 AI 安全相关教育课程。
近期多家前沿 AI 实验室已有多位核心人员出走,这两人的离职是最新案例。过去几周,雅各布・考克森与乔・本顿相继离开 Anthropic,理由是各家 AI 企业在竞速开发技术的过程中,把安全问题放到了次要位置。