人工智能公司 Anthropic PBC 正在向科技企业开放一款功能更强、尚未公开发布的人工智能模型，以便为该先进 AI 系统未来可能大范围推广所引发的网络攻击风险提前做好防范。
Anthropic 周二宣布，将与亚马逊、苹果、微软、思科及其他机构共同发起一项名为 “丛雀计划”（Project Glasswing） 的专项行动。参与企业将可使用 Anthropic 全新的 Mythos 模型，查找自身产品中的安全漏洞，并与行业同行共享检测结果。
这家 AI 初创公司表示，目前暂无向公众发布 Mythos 的计划，并将根据丛雀计划反馈的信息，为该技术制定安全防护准则。
这一安排反映出科技企业日益加剧的担忧：更先进的 AI 模型可能被犯罪分子及国家背景的黑客滥用，用于查找源代码漏洞、绕过网络防御系统。AI 技术已被用于辅助实施网络攻击。曾有黑客利用 AI 工具协助发动入侵，影响到墨西哥政府相关系统。
Anthropic 的竞争对手 OpenAI 此前也强调其模型的网络安全能力不断提升，并推出试点项目，力求让防御方 “优先使用” 其工具。
Anthropic 前沿红队网络安全负责人牛顿・程表示：“我们认为这不仅是 Anthropic 一家的问题，而是全行业面临的挑战，私营企业与各国政府都需要共同应对。我们希望通过丛雀计划，让网络防御方抢占先机。”
Anthropic 称已就 Mythos 与安全相关的能力与美国官员进行过沟通，但拒绝透露具体涉及哪些机构。程先生提到，公司此前已与美国网络安全和基础设施安全局（CISA）、美国国家标准与技术研究院（NIST）开展合作。
Anthropic 表示，Mythos 是一款通用型 AI 模型，并非专门为网络安全场景开发。不过程先生称，Mythos 已发现多个安全隐患，包括一个存在于关键互联网软件中、已有 27 年历史的漏洞。该 AI 系统还在一款热门视频软件的代码中找到一个存在 16 年的缺陷，而自动化检测工具此前已对其扫描过 500 万次，却始终未能发现。
Anthropic 研究产品管理主管黛安・佩恩表示，公司已设置防护措施，确保丛雀计划参与方对 Mythos 模型的访问受到严格管控，但出于安全考虑，拒绝透露更多细节。
责任编辑：郭明煜