路透9月16日 - 据《金融时报》周三报道，谷歌DeepMind联合创始人谢恩·莱格（Shane Legg）在成立一家致力于探索通用人工智能（AGI）应用的研究所之际警告称，快速发展的AI绝不能超越安全控制措施。

在人工智能公司就“递归自我改进” (link) 发出警告之际，研究人员报告称，能力日益增强的人工智能代理已经能够编写软件、执行自主任务并协助开发人工智能系统。这引发了人们的担忧：该技术的发展速度可能会超过用于监测和控制它的安全防护措施。

• 据报道，莱格表示，Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）关于放缓 (link) 但不要暂停前沿模型发布的呼吁，“在方向上很有意思”，且“值得考虑”。

• 据《金融时报》报道，他表示，尽管英伟达 NVDA.O 和OpenAI的高管近期曾宣称已实现AGI，但现在就断言AGI已实现还为时过早。

• 报道称，莱格仍对自己的预测“感到满意”，即到2028年实现“最低限度”AGI的概率为50%。

• 报道补充道，DeepMind研究所旨在拓宽公众对AGI的讨论范围，谷歌DeepMind将AGI定义为具备人类大脑认知能力的系统。

• 据《金融时报》报道，该研究所将涵盖科学、教育、社会、政策、哲学及人类繁荣等议题。

• 报道称，该研究所发布的首批三篇论文分别探讨了人工智能安全、经济政策以及“新乌托邦主义”的原则。