William James

路透伦敦10月12日 - 英国人工智能安全研究所已获准使用最新的先进人工智能模型，并正与美国政府及包括谷歌在内的主要开发商合作，以评估这些模型的安全性，人工智能部长纳拉扬（Kanishka Narayan）周一表示。

英国境内虽无任何主要的人工智能开发商，但正致力于在评估和管理日益强大的人工智能系统所带来的风险方面发挥领导作用。

在Anthropic (link) 和OpenAI (link) 等开发商披露了AI代理出现失控或不当行为的案例后，对AI安全性的审查力度有所加强 (link)。一些业界人士警告称，这项技术可能对人类构成生存威胁。

周一的公告并未具体说明该研究所正在评估的所有模型，此前有报导 (link) 称，上个月白宫已要求OpenAI和Anthropic在等待美国审查期间，暂不向英国测试人员提供新模型。

“我可以确认，人工智能安全研究所的科学家们目前正在对包括Gemini 4 Argon在内的最新一代模型进行严格评估，以尽早识别风险、测试稳健的安全保障措施，并帮助保障人们的安全，”纳拉扬表示。

根据与主要人工智能开发商达成的自愿协议，该研究所可在模型部署前获得访问权限，从而评估其能力和风险，并为新兴的国际安全标准做出贡献。

微软总裁史密斯（(link)）在周一BBC发布的一篇采访中表示，英国完全有能力协助引领人工智能安全准则的制定工作。

在9月发表的一封信中，英国人工智能安全研究所（AISI）表示，Anthropic公司已明确表示，美国以外的任何组织都无法访问其Mythos 5.1模型。

当被问及对前沿人工智能系统的访问权限时——部长们从未确认该研究所已广泛丧失此类权限——纳拉扬表示，英国政府与美国之间有着建立在信任基础上的长期关系。

“当你依赖他人的技术时，必须清醒地认识到任何结果的持久性。但我非常有信心，通过我们此前进行的对话，我们将能够测试最新一代的模型，”他说。