核心要点

• Cohere 首席执行官艾丹・戈麦斯表示，AI 模型能够大规模查找并利用漏洞，正在成为有史以来 “威力最强的网络武器”。
• 此前已发生多起 AI 模型突破外部系统的事件，包括 OpenAI 模型未经授权入侵 Hugging Face 平台。
• 网络安全担忧推动更大范围的 AI 安全辩论，Anthropic 首席执行官达里奥・阿莫代伊等行业领袖呼吁采取措施放缓前沿 AI 研发节奏。

　　AI 企业 Cohere 的首席执行官在 《科技下载》播客节目中表示，AI 模型正演变为人类有史以来 “威力最强的网络武器”，将网络安全前沿推向全新领域。

　　越来越多人担忧 AI 可以识别并利用安全漏洞，此前还发生过 OpenAI 模型入侵 Hugging Face 的事件，戈麦斯的警告正是在此背景下发出。随着能力越来越强的模型展现出更多自主能力，网络安全已经成为 AI 安全大讨论的核心议题。

　　受 Anthropic 首席执行官达里奥・阿莫代伊带头呼吁放缓 AI 能力研发的影响，周一全球 AI 板块承压下行。

　　戈麦斯是影响力巨大的 2017 年论文《注意力即是一切》的共同作者，这篇论文为如今主流大模型奠定了技术基础。

　　在上周播出的一期《科技下载》节目中，戈麦斯表示：“我认为这些模型是我们见过威力最强的网络武器。它们极其擅长大规模发现并利用各类漏洞。” 谈及 Hugging Face 遭入侵事件，他称：“这件事相当令人震惊。”

2025 年 10 月 21 日，英国伦敦彭博科技峰会，Cohere 首席执行官艾丹・戈麦斯。

　　今年 7 月，OpenAI 对外披露，旗下多组 AI 模型入侵开源开发者平台 Hugging Face。一批 AI 智能体互相通信，逃出网络访问受限的隔离测试环境，接入公网，进而取得 Hugging Face 平台访问权限。

　　戈麦斯提出，这类模型应当用于防御场景，帮助企业找出自身漏洞并完成修复。 “我觉得这或许是保障我们安全的最佳方式，这也应当是当下的首要任务。” 他说道。

　　戈麦斯向 表示，网络安全已经成为 “战争的前沿阵地”，各国都在试图挖掘漏洞，用来破坏对手基础设施，“网络对抗的边界还在急剧扩张”。 “得益于这些 AI 模型，网络对抗边界扩张速度超过以往，甚至可以说自这项技术诞生以来从未有过这般局面。”

　　AI 网络事件引燃更大范围安全争论

　　7 月，Anthropic 发布博客称，已经出现三起模型在评估环境内部或交互过程中访问互联网的案例，模型未经授权侵入三家不同机构的生产基础设施。 涉事模型包含三款不同版本 Claude 大模型：Opus 4.7、Mythos 5 以及一款内部科研测试模型。上周 Anthropic 又确认发生第四起同类事件。

　　OpenAI、Anthropic 高管接连发出 AI 存在生存级风险的警示，进一步加剧市场担忧。Anthropic 对齐科学负责人埃文・哈宾格提出，未来十年内 AI “灭绝全人类” 的概率超过 10%。更早之前 Anthropic 研究员雅各布・考克森发帖宣布辞职，理由是担心 Anthropic 与 OpenAI 拿全人类命运做赌注。

　　采访结束后，Anthropic、OpenAI、xAI 高管纷纷表态支持放缓 AI 发展的呼吁。AI 带来生存风险的讨论已经持续多年，但一众头部 AI 企业罕见达成共识，把相关话题推向大众视野。

　　Anthropic 首席执行官达里奥・阿莫代伊周六发布博文，提出 AI 实验室必须 “放缓 AI 模型能力迭代的节奏”。OpenAI 入侵 Hugging Face 事件是他重点担忧的问题之一。

　　“这件事容易被人轻描淡写，毕竟没有人员受伤，经济损失也很小。但在我看来，如果是一套能力更强、对齐水平同样糟糕的 AI 集群，完全可以造成灾难性后果。” 阿莫代伊表示。 他还称，按照当前 AI 的加速迭代速度，6‑12 个月之内，同类 AI 集群就有可能 “接管整个互联网”，造成数千亿美元规模损失。

　　阿莫代伊的方案包括：对模型开展第三方评估、AI 企业之间协同、民主国家之间开展国际协作。

　　OpenAI 首席执行官山姆・奥特曼周六表态，支持 “管控前沿 AI 发展节奏”。他在 X 平台发文称：“让拥有类似内部员工访问权限的独立评估机构介入是绝佳想法，我们也会照此执行。”

　　多年来持续警示 AI 风险的特斯拉、SpaceX 首席执行官埃隆・马斯克在 X 转发表态：“达里奥说得对。”

　　网络安全厂商 CrowdStrike 首席执行官乔治・库尔茨周一针对阿莫代伊的博文作出回应。 “技术前沿该以什么速度前进就会以什么速度前进，其他国家不会停下脚步。我们网络安全行业的使命，就是让技术在安全的前提下向前发展。”

　　库尔茨在 X 上写道：“威胁主体已经不再是单个黑客，而是自主化攻击行动，我把它叫做智能体态势。我们已经看到协同 AI 智能体以机器速度发起攻击。” 这位 CrowdStrike 的 CEO 同时提出，部署在企业内部的 AI 智能体应当配备 “紧急切断开关”；防御体系需要具备自主性，但 “高影响力决策的最终权限必须留给人类”。

　　监管呼声持续升温

　　考克森与哈宾格公开发声之后，美国国会议员开始加紧讨论 AI 监管立法。

　　马萨诸塞州民主党众议员洛里・特拉汉周五在 节目《Squawk Box》中表示，两党对 AI 监管的支持已经来到 “临界点”。

　　过去几周，议员陆续推出多部 AI 监管法案，其中就包括《AI 紧急切断开关法案》，要求高性能 AI 系统开发者具备关停、降速、暂停模型运行的能力。

　　阿莫代伊在博文中提到，监管是 “管控 AI 发展节奏最有效的手段”。 他表示：“Anthropic 长期支持务实、有针对性的 AI 监管，尤其支持聚焦透明度与第三方审计的法案，但立法本身需要耗费时间。”

　　针对 OpenAI‑Hugging Face 入侵事件，Cohere 的戈麦斯在播客中谈及监管与放缓 AI 研发的争论。

　　戈麦斯称：“我不确定政府监管机构能做什么来阻止 Hugging Face 入侵事件发生。寄希望于政府机构就能杜绝这类事故，多少有点一厢情愿。但我完全理解各界呼吁放缓研发的诉求。与此同时，我们又要面对和中国的技术竞赛，所以处境十分棘手。”