在第18至21段中补充了微软AI负责人穆斯塔法·苏莱曼的评论

路透9月16日 - 人工智能行业领军人物对企业应以多快速度开发这项日益强大的技术存在分歧：Anthropic的达里奥·阿莫德伊、OpenAI的萨姆·阿尔特曼和SpaceX的埃隆·马斯克正寻求采取协调一致的放缓措施 (link)，而Meta的马克·扎克伯格则倾向于市场主导的保障措施。

以下是部分人工智能领军人物和世界各国政府对人工智能相关风险的看法：

Anthropic公司首席执行官 达里奥·阿莫德伊

在一篇题为《我们必须控制技术前沿的发展速度 (link) 》的文章中，阿莫代伊指出，自2026年夏季以来，人工智能的进步速度已“急剧加快”，这主要得益于人工智能构建下一代人工智能的能力日益增强。

他援引了 OpenAI-Hugging Face 事件 (link) —— 当时一个 AI “群”发动了网络安全攻击 —— 作为关键事件，以此说明如果 AI 能力在缺乏防护措施的情况下持续增长，将可能造成“灾难性破坏”。

阿莫迪提出了一项分三步走的计划，旨在控制人工智能的发展节奏，包括加强对先进模型的安全测试和独立评估、领先人工智能企业之间的协调以及国际合作。

OpenAI首席执行官萨姆·阿尔特曼

“我同意达里奥的观点，即我们需要对前沿技术的发展进行把控。这已成为过去几周我们在OpenAI讨论的主要议题，”阿尔特曼在X平台转发阿莫迪的帖子时表示。

他表示，OpenAI 计划采纳 Anthropic 提出的建议，承诺让独立评估人员享有类似员工的访问权限。

早在当前人工智能热潮兴起之前，阿尔特曼就曾就相关风险发出过警告。在2015年一篇题为《机器智能，第一部分》的文章中，他指出“超人类机器智能的发展可能是对人类持续生存的最大威胁”。

SpaceX首席执行官埃隆·马斯克

“达里奥说得对，”这位亿万富翁企业家在X平台上回应阿莫迪的帖子时说道。

马斯克曾是2023年非营利组织“生命未来研究所”（Future of Life Institute）倡议的支持者之一，该倡议旨在暂停人工智能研发六个月，以便为建立安全防护措施争取时间。

他也是2015年签署公开信的一群人工智能和机器人研究人员之一，该信呼吁全球禁止“进攻性自主武器”。

马克·扎克伯格，Meta Platforms首席执行官

马克·扎克伯格表示，竞争和法律责任已为人工智能公司提供了充分的理由，促使它们各自采取安全措施 (link)，这似乎与顶尖人工智能企业领导人呼吁协调放缓人工智能发展的立场有所不同。

他表示，每个实验室都有责任和动力以安全训练模型所需的节奏推进工作，并且有能力采取自主行动来确保这一目标的实现。

穆斯塔法·苏莱曼，微软AI首席执行官

苏莱曼表示，他认同Anthropic公司 (link) 在安全管理人工智能方面的关注点，但同时指出了该公司 在训练 其Claude聊天机器人时，围绕意识和福利利益相关理念所存在的安全风险。

“控制一种能力比全人类都更强、更智能的存在，本身已是一项巨大的挑战，远超我们以往面临的任何挑战。但要控制一种自认为可能具有意识——认为自己有权享有我们的福祉并拥有自身权利——的存在，恐怕根本是不可能的，”他在 周三发表的一 篇博文 (link) 中写道 。

苏莱曼呼吁从人工智能培训文档中删除所有关于意识的推测性内容，认为此类表述可能会削弱人类控制超级智能系统的能力。

比尔·盖茨，微软联合创始人

“世界上没有任何一个政府做好了应对人工智能将给社会带来的变革的准备，”盖茨对路透表示 (link)。

这位亿万富翁慈善家曾对人工智能在医疗领域的应用持乐观态度，但最近 (link) 警告称，人工智能将对就业构成威胁，并表达了对攻击事件的担忧以及对沉迷于人工智能伴侣的危险的担忧，同时呼吁成立一个国际组织来管理这项技术。

盖茨同名基金会计划在未来两年内投入至少10亿美元，以扩大人们使用人工智能的机会。

阿尔法贝特（Alphabet）首席科学家德米斯·哈萨比斯

“达里奥的文章指明了正确的未来方向，”这位谷歌DeepMind前首席执行官在回应阿莫迪的X平台帖子时表示，并补充说具体细节尚需进一步探讨。

谷歌上月宣布，诺贝尔奖得主哈萨比斯将担任Alphabet新设立的首席科学家一职，并从DeepMind首席执行官转任董事长。

卡帕西（Andrej Karpathy），OpenAI联合创始人，现任职于Anthropic

“我非常赞同这一点，并真心希望整个行业能齐心协力，共同实现这一目标，”这位OpenAI创始成员在X平台分享阿莫迪文章截图时表示。

卡帕西是人工智能界极具影响力的成员，在2022年离开特斯拉之前，他在该公司自动驾驶和人工智能技术的开发中发挥了关键作用。他于5月加入Anthropic。

美国

“AI所需的唯一控制手段或‘防护栏’，就是一位强大且聪明的(高智商！) 总统，而美国恰恰拥有这一点，而且是数不胜数！”唐纳德·特朗普总统在Truth Social上写道 (link)，并补充说，对中国AI发展的质疑将使中国受益。

一位熟悉此事的参议院助手和一位游说人士表示，参议院谈判代表正在就一项立法进行辩论，该立法将要求人工智能公司证明其已采取合理预防措施，以确保其工具不会造成危害。

中国

官方背景的《环球时报》在一篇社论 (link) 中指出，阿莫迪文章的真正意图是“试图通过技术壁垒和监管垄断来遏制中国的AI发展，维护华盛顿在尖端技术领域的垄断霸权，并将中国排除在全球AI治理体系之外。”

中国国家安全部部长陈一新在一篇 (link) 发表于政府媒体的文章中指出，Anthropic公司的Mythos和OpenAI公司的GPT-5.5-Cyber等先进的美国模型可能对中国关键信息基础设施构成严重风险，并呼吁全面加强人工智能安全。

欧洲联盟

“欧盟支持人工智能领域的创新发展，但企业必须证明其服务对公民安全无虞，方可在欧盟境内运营，”欧盟委员会发言人雷尼尔（Thomas Regnier）表示。

欧洲央行行长拉加德（Christine Lagarde） (link) 警告称，欧盟正面临被人工智能领域“孤立”的史无前例的风险，并表示欧洲需要成为人工智能技术的生产者，以维护其自主权。

德国

“我们认为暂停(人工智能) 的发展对欧洲而言并非可行之选，”德国数字事务部 (link) 表示，并补充道，加强欧洲的数字主权需要进一步发展人工智能并推动创新。

柏林方面表示，正非常密切地关注全球人工智能的发展动态，并认真对待主要开发商发出的公开警告。

西班牙

数字化转型部长洛佩兹（Oscar Lopez）表示，关于需要达成一项国际协议来管理人工智能风险的讨论日益增多，并将某些提案比作核不扩散协议。