参考消息

　　【今日导读】盟友们完全有理由质疑：更大的人工智能访问权限、更多的存储信息和数据聚合，是否会在美国制造新的风险？

　　美国国防部8月底刚刚宣布，该机构将通过引入军用版ChatGPT（ChatGPT Mil）和政府版“格罗克”（Grok for Government）来扩展情报人工智能平台（GenAI.mil），从而将更多企业级人工智能整合到美国军方的日常基础设施中。这两款系统均已获得认证。自2025年12月上线以来，情报人工智能平台的独立用户数已超过170万。

　　这不再是小规模测试。国防部已公开呼吁打造一支“人工智能优先”的部队，并表示这些人工智能工具旨在加快规划、决策、后勤、行政、采购、供应链及其他日常工作的进程。目标是让人工智能成为常态，使其快速得到部署应用，并尽可能地普及到部队的各个层面。

　　这或许能带来真正的优势，但也引发了一个让国家安全局的每名风险分析师都感到头疼的基本安全问题：快速普及人工智能工具意味着更多的用户、更多的凭证、更多的存储项目、更多的数据传输、更多的软件连接，以及更多让境外人员找到入侵途径的机会。

　　便利性或削弱安全纪律

　　最大的风险并非科幻小说中所描述的人工智能反过来对抗美国，也不是人工智能产生自我意识并误导用户。真正的风险在于数据、人员和纪律。企业级人工智能的设计初衷是为了提供便利，而这种便利恰恰会随着时间的推移逐渐削弱安全纪律。人们与对话式人工智能进行互动的方式与他们使用传统信息系统时有所不同。同行评审研究表明，用户在与对话式人工智能进行互动时，往往会向对话式智能体透露更多信息，远超他们在面对真人或传统问卷调查时透露的信息。

　　这一点至关重要，因为人们日复一日地在同一个系统中提问、上传文件、复制文本、总结资料、保存项目，直到这种交互变得习以为常。此类互动越是习以为常，围绕它的安全纪律就越容易被侵蚀。对话式人工智能的大规模应用并不一定会违反操作安全，但它会给操作安全带来更大压力。五角大楼自身的作战理论就曾警告称，数据聚合、常规信息系统以及日常组织活动都可能产生可被利用的漏洞。而情报人工智能平台正在同时扩展这三者。

　　如果给上百万用户提供一款旨在实现流畅对话的工具，并让该工具成为他们日常工作的一部分，那么其中一部分人最终会变得过于放松警惕。安全规则、严格的流程、培训和资质认证虽有助于降低风险，但这些措施无法预测用户在无数次互动中的所有行为。我之前就警告过，军方使用企业级人工智能的弊端在于，由于标准受到削弱，这种“常态化”本身就会成为一种隐患。而如今，美国国防部正在明确尝试把前沿人工智能作为日常行动的标准。

　　给黑客留出更多攻击面

　　人工智能系统越多，就意味着软件越多、集成越多、凭证越多、存储的知识越多，以及恶意行为者可以进行探测的入口也越多。美国国家标准与技术研究所明确警告称，生成式人工智能扩大了可被黑客利用的攻击面。

　　这不仅涉及五角大楼自身的安全问题，还会在国际上引发反响。美国是“五眼联盟”等情报共享关系的核心，而这些合作关系依赖各方对美国的信任，即敏感信息一旦进入美国系统，就能得到妥善保护。随着五角大楼将企业级人工智能纳入常规军事工作，盟友们完全有理由质疑：更大的人工智能访问权限、更多的存储信息和数据聚合，是否会在美国制造新的风险？

　　快速部署人工智能不应与增强作战能力混为一谈。五角大楼应根据自身程序谨慎评估人工智能的应用，识别其带来的安全负担，并在后续环节中降低这些风险。每项新的人工智能能力都会增加需要防御的环节，而每增加一层便利都会给军方的安全系统以及操作人员的主观判断带来更多压力。美国的对手无需发明超级智能体来利用这一点，只需等待美军纪律逐渐松懈便可达成目的。

　　本文由美国外交政策聚焦研究计划网站9月7日发表，原题为《五角大楼的人工智能热潮正在制造安全漏洞》。