作者：布莱恩・索齐

　　OpenAI 首席执行官山姆・奥特曼，似乎正被自己参与打造的、如同噩梦一般的人工智能产物深深困扰，甚至难以安睡。

　　美国东部时间凌晨 0 点 57 分左右，奥特曼在 X 平台发文表示：“人工智能的发展存在两种必须规避的灾难性走向。第一，我们可能会对人工智能失去对未来的掌控。这是无法接受的。我们坚定站在人类一方，人工智能必须始终服务于人。想要做到这一点，我们必须保证对齐技术与安全手段的发展速度，跑在模型能力迭代的前面。”

　　他接着写道：“第二种风险，是世界出现权力的高度集中。如果某个人或者某家企业掌握能力极强的人工智能，并将自身世界观强加给所有人，结局将是极度反乌托邦的。规避上述两大威胁，需要走好一条狭窄的中间道路。举例来说，某一个国家攫取过大权力，或是某一家实验室手握过多话语权，都属于这类风险。”

　　短短两天之内，Anthropic 首席执行官达里奥・阿莫代伊与奥特曼这两位 AI 行业巨头，接连对由他们主导、并带领顶尖研发团队加速推进的这项强大技术发出警示。

　　阿莫代伊于周六在个人博客中表示：“过去几个月，我愈发确信，想要充分应对相关风险，需要更加审慎行事。不只是投入资源防范风险，还要管控 AI 能力的迭代速度，为风险防控留出追赶的时间。我们必须放缓人工智能模型的能力提升节奏。整体技术依旧会保持较快发展，我们要善用争取到的时间。”

　　阿莫代伊发文之后，奥特曼随即表态，认同这位竞争对手的观点。

　　接连发声之前，已有两名 AI 研究人员对前沿高级 AI 模型的危险性表达担忧。

　　上周早些时候，雅各布・考克森宣布从 Anthropic 离职。他称，无论是 Anthropic 还是 OpenAI，在研发高性能人工智能系统这件事上，都没有承担起应有的责任。

　　随后，Anthropic 的对齐科学负责人埃文・哈宾格在考克森帖子下回复，认可这位前员工的看法。他认为，这项技术存在超过 10% 的概率会 “致使全体人类消亡”。

　　特朗普总统周日对这类安全担忧提出反驳。他表示：“我们在人工智能领域领先中国。我们是全球技术最先进的国家，坦白说，我希望维持这一优势，因为谁赢得人工智能竞赛，就能赢得未来。”

　　受上述担忧情绪影响，周一 AI 板块头部股票承压，市场担忧 AI 技术发展或将遇阻。闪迪盘前下跌 5%，英伟达盘前下跌 3%。

　　约克维尔艾夫斯公司创始合伙人丹・艾夫斯向雅虎财经表示：“我认为达里奥的文章加上周末行业讨论，会造成周一开盘短暂走弱，但市场很快就会反弹。投资者很快就会看清，尽管行业上演这番舆论风波，但未来五年 5 万亿美元的 AI 投入大局不会发生实质改变。”