据《金融时报》报道,DeepMind联合创始人警告称,人工智能的能力绝不能超越安全控制措施

路透中文
Yesterday
据《金融时报》报道,DeepMind联合创始人警告称,人工智能的能力绝不能超越安全控制措施

路透9月16日 - 据《金融时报》周三报道,谷歌DeepMind联合创始人谢恩·莱格(Shane Legg)在成立一家致力于探索通用人工智能(AGI)应用的研究所之际警告称,快速发展的AI绝不能超越安全控制措施。

在人工智能公司就“递归自我改进” (link) 发出警告之际,研究人员报告称,能力日益增强的人工智能代理已经能够编写软件、执行自主任务并协助开发人工智能系统。这引发了人们的担忧:该技术的发展速度可能会超过用于监测和控制它的安全防护措施。

  • 据报道,莱格表示,Anthropic首席执行官达里奥·阿莫代伊(Dario Amodei)关于放缓 (link) 但不要暂停前沿模型发布的呼吁,“在方向上很有意思”,且“值得考虑”。

  • 据《金融时报》报道,他表示,尽管英伟达 NVDA.O 和OpenAI的高管近期曾宣称已实现AGI,但现在就断言AGI已实现还为时过早。

  • 报道称,莱格仍对自己的预测“感到满意”,即到2028年实现“最低限度”AGI的概率为50%。

  • 报道补充道,DeepMind研究所旨在拓宽公众对AGI的讨论范围,谷歌DeepMind将AGI定义为具备人类大脑认知能力的系统。

  • 据《金融时报》报道,该研究所将涵盖科学、教育、社会、政策、哲学及人类繁荣等议题。

  • 报道称,该研究所发布的首批三篇论文分别探讨了人工智能安全、经济政策以及“新乌托邦主义”的原则。

At the request of the copyright holder, you need to log in to view this content

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10