Anthropic研究员因担忧AI“失控” 离职

金融界
Sep 09

来源:环球市场播报

一名 Anthropic 公司研究员出于担忧,选择离开人工智能行业。他认为该实验室及其竞争对手正竞相研发人类无法掌控的 AI 系统,这也表明头部 AI 企业内部的安全顾虑正不断加剧。

专门通过海量数据训练新型 AI 模型的研究员雅各布・考克森于周二表示,他将离开这家公司,原因是不想参与全行业争相研发可自我迭代 AI 系统的竞赛。他担心这类系统可能彻底失控并毁灭人类。

这位 27 岁的英国籍研究员曾主修数学。他称,业内许多同行如今会用 “决战时刻” 和 “终局” 这类词汇,来描述走向可自我改进模型的发展趋势。

考克森称:“按照当前态势,很多极端推演场景都有可能成真,到明年年底情况或许就会失控。” 他还补充道,各家企业以及中国新兴 AI 企业之间相互竞争时,安全层面的取舍权衡不可避免。

美股频道更多独家策划、专家专栏,免费查阅>>

责任编辑:栎树

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10