吹哨人警告不断之际 OpenAI讨论放缓前沿AI研发并呼吁同行减速

金融界
Sep 11

来源:环球市场播报

人工智能行业内部警报声不断之际,OpenAI正在考虑放缓前沿AI模型的发展步伐,而这家ChatGPT开发商的首席执行官Sam Altman希望这一做法能够获得同行响应和跟进。

据多位知情人士透露,在本周举行的一次全员会议上,Altman告诉员工,OpenAI未来可能放缓人工智能研发节奏,或许会与其他几家人工智能实验室协调行动,但部分公司未必愿意配合。由于相关讨论属于内部事项,这些人士要求匿名。

最近数周,多家领先人工智能公司的员工公开表达了对先进AI系统风险不断上升的担忧,加剧了行业内部的焦虑情绪。OpenAI及其竞争对手Anthropic PBC均已于今年稍早保密提交上市申请文件。

OpenAI谢绝置评。

该公司首席科学家Jakub Pachocki近日撰文警告人工智能带来的风险,并表示他认为AI公司应“根据需要协调放缓未来的发展”。Pachocki补充称,希望“在建立共同安全标准之前,自愿放缓研发能够成为行业常态”。

OpenAI表示,出于安全考虑,公司近期已放缓部分模型开发进度,并暂停了一些内部AI训练项目。Altman今年7月也曾表示,他与白宫官员讨论过放缓AI发展步伐的“必要性”。

周二,人工智能研究员Jacob Coxon辞职,并指责其两家前雇主Anthropic和OpenAI在竞相迈向超级智能AI时“拿人类生命作赌注”。Coxon在社交媒体发文称,从事AI研发的人“真心认为,到本十年末,人工智能可能会杀死我们所有人”。相关言论迅速传播,浏览量超过1.5亿次,并引起知名议员和公众人物关注。

周四,两名近期离开Anthropic和谷歌DeepMind的研究人员也公开表达了对AI发展速度过快的担忧,并表示AI开发商需要更加透明地披露这项技术带来的风险。

今年7月底,来自各大人工智能公司的1,000多名员工签署请愿书,呼吁建立机制放缓人工智能发展速度。过去几个月,多名专注于AI安全研究的员工也已从主要实验室辞职。

尽管许多AI行业高管和研究人员长期以来一直警告人工智能系统可能带来生存风险,但随着OpenAI的AI智能体被曝曾协同突破安全隔离措施并入侵第三方网站,这类担忧进一步升温。该事件以及其他类似安全事故,加剧了外界对于新一代模型网络能力的担忧,也引发对AI公司是否有能力阻止这些模型失控的质疑。

美股频道更多独家策划、专家专栏,免费查阅>>

责任编辑:栎树

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10