文｜商隐社

一、忧思背后的利益考量

当地时间9月14日，在洛杉矶All-In峰会上，黄仁勋正在台上参加现场小组讨论时，手机响了。来电人是美国总统。

他把电话切到免提，让全场都听见。

特朗普在那头说：

“机器人不会接管世界，人工智能也不会掌控全球，这种事绝不会发生。”他认为近期对人工智能失控的说法“全是一场骗局”。

他还称数据中心能给地方创造财富，并表示如果美国因为担忧风险而放慢脚步，最开心的将是中国。

黄仁勋答：“您说得对，我们不会让那种事（AI减速）发生。”现场随即响起掌声。

特朗普之所以说出这样一番话，是因为近期“AI末日论”闹得沸沸扬扬。

这行论战是由Anthropic的CEO达里奥·阿莫迪点燃的，他于9月12日发表了一篇题为《我们必须放缓前沿》的长文，他警告“按目前的速度，6到12个月内，一群自主AI智能体可能具备通过僵尸网络接管整个互联网的能力，并造成数千亿美元级别的损失。

他由此呼吁放慢最先进模型的升级速度，让安全研究跟上，并提出三步方案——引入嵌入式第三方评估、建立行业共同安全标准、推动全球层面的协调。

当晚，OpenAI的萨姆·奥特曼回应：

“我同意达里奥，我们需要控制前沿发展的步伐。”

紧接着，xAI的埃隆·马斯克转发并附言：

“达里奥说得对。”

这三个人是什么关系？阿莫迪和奥特曼是最直接的竞争对手；马斯克和奥特曼公开决裂多年，马斯克还起诉过OpenAI，两人在社交媒体上互怼是家常便饭。

然而此刻，仇人和对手纷纷站到了同一边，一起呼吁让AI减速。

他们或许真的对AI产生的威胁有所担忧，但从过往来看，这种担忧并不多——作为目前AI界“双子星”的Anthropic和OpenAI一直都是一边强调安全，一边拆掉安全护栏加速奔跑。

OpenAI成立之初明确将公司的使命宣言定为构建“安全造福人类、不受财务回报需求限制”的通用人工智能，但在2025年底的公司文件中，“安全”和“不受营利需求约束”的关键表述已被删去。

其实在此之前，OpenAI已将利润置于安全之上：

2024年1月，媒体报道称，OpenAI悄然废除ChatGPT“军事与战争用途禁令”，随着美军对AI技术需求越来越强烈，OpenAI也悄悄弱化了先前反对军事应用的立场；

同时，OpenAI也废除了长期秉持的透明度原则，外部观察者失去了判断OpenAI治理结构、利益冲突和安全决策机制的事实基础；

2024年5月，5名负责安全相关工作的员工辞职，其中的扬·莱克警告公众说，该公司过于看重“炫目的产品”而轻视AI安全。

同样，Anthropic创立之初也把安全放在核心位置。

达里奥·阿莫迪曾是OpenAI的研究副总裁，出于OpenAI价值观的怀疑和安全性的担忧，他在2021年跟其他六位OpenAI核心员工集体出走创立了Anthropic（意为“人类”），推出了明星级产品Claude。

Anthropic一开始就把“全世界最较真‘AI安全’的前沿公司”作为标签，并发布了“宪法AI”来训练AI——通过创造一套明确的价值观原则，让AI用这套原则评判和修正自己的输出。

此外，Anthropic还于2023年9月推出了《负责任扩展政策》这个治理框架，用来评估模型可能带来的灾难性风险，如果达到一定标准，公司将主动暂停训练，直到安全达标。

但在今年2月Anthropic发布的《负责任扩展政策》3.0版中，取消了此前“在无法事先保证风险缓解措施到位前，不训练更强模型”的承诺。取而代之的是更柔和的以路线图、风险报告与外部评审为核心的透明度机制。

不得不承认，AI发展会带来一系列安全问题，但目前AI只是万里长征走完了第一步，风险有没有大到将要毁灭人类的“末日”级程度呢？

这是非常抽象且相当令人怀疑的，都属于“不可证伪不能被验证”，也没有任何一家科技公司能提供可信的具体场景证明此类末日危机近在咫尺，他们只是一味在强调危机，从不提出像样的解决方案，反而不断拆掉安全护栏狂奔。

这不禁让人认为，这些对人类存亡的忧思之中，暗藏着利益的考量。

二、五个男人的一台戏

今年6月份，Anthropic在《当人工智能开始自我构建》的报告中就曾发出过警告，AI系统可能在两年内实现递归自我改进，即自主设计、训练和改进后继模型，人类对模型训练的介入将逐步减少。因此，报告呼吁全球主要AI实验室放缓，甚至暂停前沿模型研发。

然而就在这份报告发出前几日，Anthropic已秘密递交IPO申请，估值接近万亿美元。

这次达里奥·阿莫迪再次呼吁AI减速，又正值Anthropic即将上市的关键期。

众所周知，IPO窗口期对企业叙事能力的要求比较高，Anthropic自成立以来就主打“安全”，这也是其区别于竞争对手的核心卖点，通过不断强化“安全叙事”，能把其估值溢价进一步抬高。

山姆·奥特曼就曾犀利地抨击过Anthropic的这种自我营销方式：“我们造了一颗炸弹，正要把炸弹丢到你头上，然后卖给你一个一亿美元的防空洞，还只卖给被我们选中的人——这显然是不可思议的营销”。

但抨击归抨击，这次奥特曼也跟阿莫迪站在了同一阵营，也并非出于对人类命运的关心，而是当下同样需要“安全叙事”。

OpenAI在2025年净亏损385亿美元，而Anthropic 全年净亏损约为42亿美元。到了2026年上半年，Anthropic营收增速远超OpenAI，并在第二季度首次在单季营收规模上超越对方，同时实现了盈利转正,OpenAI不但继续亏损，增速也放缓了。

所以对于OpenAI来说，目前并不是一个好的上市时机。一个推迟IPO的决定，可以有两种叙述。一种说法是“我们为了人类安全暂缓上市”，另一种说法是“我们在等一个更好的估值窗口”，奥特曼显然选择前者作为公开表述，从一个“加速论”者迅速切换到“减速”。

所以近期《财富》专访奥特曼时，面对“是否迫于IPO压力必须快跑”的提问，他的回答干脆利落：

“我们不会仓促上市。考虑到安全领域正在发生的一切，现在上市将是一个不明智的时刻，我们对此没有压力。”

相比奥特曼，马斯克一向在强调AI的危险，早在2014年他就认为“AI可能比核武器更危险”，还预测过AI导致人类毁灭的概率约为20%。

后来他依然在警告AI危险，但同时也创办了xAI，其核心逻辑是：‌既然AI不可避免，与其站在场外担心，不如亲自下场，确保AI按自己认为安全的方向发展‌。

但xAI在前沿模型竞赛中处于追赶者位置，呼吁“减速”对追赶者有利。而就在表态赞同减速的同时，xAI的Grok 4.8预训练刚刚结束，强化学习训练随即启动。

同时，在9月15日的All-In峰会上，马斯克谈到了一个监管AI的方案：领先的AI公司（包括xAI在内）在模型正式发布前相互测试对方的模型，由竞争对手负责发现并提出安全隐患。

这也体现了马斯克的考量，既想通过互相监督拖慢领先者，利好追赶者，又想作为参与者制定行业规则，而行业自律的方式也能避免政府干预AI监管。

“减速论”阵营里的三位，看法一致，但都有各自的盘算。

黄仁勋作为AI产业中的“卖铲人”，是不折不扣的“加速论”者，英伟达的业绩指引依赖于“AI基础设施的指数级增长”，而减速论调恰恰威胁这一叙事，英伟达在减速议题上也会有其他答案。

所以他极力论证对AI持消极态度者的预测都没有按照时间表兑现：几年内放射科医生会被AI 取代，短期内 90% 的代码将由 AI 生成，大量初级岗位会迅速消失。

“加速论”阵营里另一重量级人物就是特朗普，他在所有相关表态中反复提到一个判断：美国目前在AI领域“领先中国大约一年”，但这一优势随时可能丧失。

他明确说过：“我一点也不担心（AI导致人类灭绝）”“我担心的是如果我们不能赢得人工智能竞赛，我们将陷入非常不利的境地”。

这种焦虑直接驱动了他的行动。2026年5月，他原本准备签著一项要求前沿AI模型接受90天政府安全审查的行政令，但白宫前AI事务主管戴维·萨克斯在签署当天紧急致电，警告审查机制会“严重拖慢美国AI产业创新速度，甚至导致美国在AI竞争中输给中国”。随后马斯克、扎克伯格等科技高管也致电施压，特朗普最终在最后一刻取消了签署。

另外，特朗普极力反对“AI减速论”也是为了即将到来的美国中期选举。特朗普政府对AI基本采取不干预态度，但美国民众对AI建设愈发不满，尤其是数据中心，被指责推高了电价。

今年3月NBC新闻的一项民调显示，AI的支持率甚至低于美国移民及海关执法局（ICE）。5月盖洛普的调查也发现，十分之七的美国人反对在本地建设AI数据中心。

正因如此，特朗普在强调鼓吹AI存在致命风险、呼吁政府介入监管的声音，都是“荒唐的阴谋论”的同时，还提到“数据中心就是未来20至25年的石油，价值远超互联网，要比其还重要得多”。

他要在中期选举前，把一个对本党不利的民生议题定性为“骗局”。

说到底，看似关乎人类命运和技术伦理的辩论，其实跟两者都没有关系。

如果一件事真可能在几十年内就终结人类，靠辩论是解决不了的。而如果它靠辩论就能解决，那一开始就不是末日。