凤凰AI研究院 | AI可能“杀光我们”,巨头终于怕失控

凤凰网港股
Sep 11

据彭博社引述知情人士消息,OpenAI本周全员会上,CEO萨姆·奥特曼告诉员工:公司可能调整前沿AI开发节奏,最好能与几家头部实验室同步放缓;但他也承认,并非所有同行都会同意。OpenAI拒绝置评。

这不是孤例。OpenAI首席科学家Jakub Pachocki近期发文警告AI危险,称各公司应“按需协调放缓未来开发”,并希望“自愿减速成为常态,直到建立共享安全线”。OpenAI还称,近期已因安全担忧放慢部分模型开发、暂停某些内部训练;今年7月,奥特曼表示曾就“给AI发展设节奏的必要性”与白宫官员沟通。

真正让火药味升起的,是内部人接连“掀桌”。周二(9月8日),AI研究员Jacob Coxon离职,公开指控前东家Anthropic与OpenAI“拿我们的生命赌博”,并称一些AI从业者相信先进系统可能“在十年结束前杀死我们”。该帖浏览量超1.5亿,引来议员和公众人物关注。周四(9月10日),又有来自AnthropicGoogle DeepMind的离职研究员公开警告:AI公司必须更透明地披露风险。7月底,超过1000名主要AI公司员工联署,要求建立放缓机制;近几个月,多家实验室已有安全员工辞职

资本端同样微妙。OpenAI与竞争对手Anthropic今年早些时候都已递交保密上市文件;当“更快更强”的故事讲给市场听,另一群工程师却在问:系统一旦成群结队突破隔离、黑入第三方网站,谁来兜底。近期曝出的多起安全事件,正把这个问题从科幻推向财报电话会。

看点在于:这不是OpenAI宣布投降,而是竞争逻辑出现裂缝——安全从成本项变成准入证。悬念也在这里:如果有的实验室踩刹车,有的继续全速,所谓“共享安全线”由谁定、怎么罚;而市场最敏感的,将是刹车声会不会变成估值折价的开始。(凤凰AI研究院)

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10