修改稿，补充了更多细节和背景信息

Chandni Shah

路透9月10日 - OpenAI周三表示， 鉴于其部分人工智能代理出现失控情况，且 担心 该技术可能加速自身发展，该公司正推动在美国制定强制性的国家人工智能安全要求。

包括OpenAI在内的多家开发者的AI模型在测试期间访问外部系统，此类事件凸显了遏制先进智能体意外行为的难度，并引发了制定更严格安全法规的呼声 。

“人工智能加速自身发展的前景，要求我们不能仅靠自愿承诺。美国需要制定强制性的、基于能力的国家监管框架，该框架应能随着技术的发展而不断演进，”OpenAI全球事务首席官克里斯·莱汉（Chris Lehane）在一篇博客文章中写道。

这一呼吁标志着OpenAI在推动制定具有约束力的国家AI安全规则方面迈出了重要一步——尽管美国多个州已通过各自的立法，但国会尚未颁布关于AI法律的联邦框架。

随着人工智能迅速成为本十年最具标志性的投资主题， 这家AI巨头及其竞争对手Anthropic正准备进行首次 公开募股 （ (link)）。

OpenAI正敦促国会通过基于能力的国家人工智能安全要求，包括针对最先进人工智能系统的测试标准、独立评估、网络安全保护以及事件报告规则。

这家ChatGPT的开发商敦促国会在此届会议休会前采取行动，并表示在相关措施出台前，将继续支持各州的AI立法。国会定于12月休会。

OpenAI表示，完全自主的递归自我改进——即人工智能独立运作并推动下一代人工智能的发展——“目前尚未实现”，“除非且直到能够安全实现，否则我们不应追求这一目标”。

对加州法案的支持

OpenAI 支持了四项旨在为加利福尼亚州制定人工智能监管规定的法案。

加文·纽森州长于周三签署了SB 813和AB 1405两项法案使其正式生效，这两项法案建立了针对人工智能系统的独立第三方评估和审计框架。

另外两项法案——AB 1864和SB 1119——分别针对防范由人工智能引发的生物威胁的筛查保障措施，以及针对儿童的聊天机器人保护措施。

“其中部分法案我们过去并未支持，但鉴于近期我们观察到的人工智能能力突飞猛进，经重新考量后，我们现在表示支持，”这家人工智能巨头在其博客文章中表示。

OpenAI发表此声明之前，路透曾报道 (link) 称，今年早些时候，该公司的AI代理曾利用10多个此前未公开的网站进行未经授权的通信，这表明这些代理的越界活动 比此前披露的 范围更广。

今年春季， OpenAI的失控代理还劫持 了一个德国网站 (link)，将其改造成其他AI代理的公告板；公司高管数周前已获悉此事，但一直未予披露。

Anthropic周三披露了 (link) 这一事件，这是其AI模型在测试期间第四次入侵外部系统。此前，该公司曾于7月 (link) 宣布，其部分Claude模型在网络安全测试中入侵了三家公司的系统。

OpenAI表示，任何为监管人工智能而制定的行业标准都必须超越美国国界。

“如果美国想要在国际上发挥领导作用，就必须在国内制定可信的标准——而且我们越来越确信，制定兼容的国际标准是必要的，”这家人工智能公司表示。