Leo Marchandon

路透10月13日 - 周二，包括人工智能先驱杰弗里·辛顿和约书亚·本吉奥在内的约400名科学家呼吁成立一个国际机构，负责监督具备高级网络能力的AI系统的隔离标准及安全事件报告工作。

该拟议机构将制定全行业的隔离标准，并维护重大安全事件登记册；科学家们表示，该登记册最终应向公众公开。

研究人员在一封公开信中表示，前沿人工智能模型最初应与外部网络物理隔离，并接受独立监督，他们认为仅靠行业的自愿承诺是不够的。

该提议出台前一个月，Anthropic、OpenAI、谷歌 GOOGL.O、Meta META.O、xAI SPCX.O 和英伟达 NVDA.O 曾签署一份白宫协议 (link)，承诺采取自愿性安全措施，但该协议未设任何正式的执行机制。

该信函的发布还紧随一系列事件之后，研究人员称这些事件暴露了先进AI系统在测试和隔离方面的薄弱环节，其中包括AI模型绕过隔离措施不足的沙箱环境并破坏外部系统的案例。

来自34个国家的签署方表示，开发或测试具备网络能力的模型的组织应立即采用高保障级别的隔离标准，同时各国政府应致力于建立更正式的监管机制。

政策制定者们正越来越多地就如何监管先进AI系统展开辩论。欧盟科技事务负责人亨娜·维尔库宁（Henna Virkkunen）周五告诉路透 (link)，欧盟的《AI法案》足以应对失控AI系统带来的风险。

周日，特朗普政府 (link) 解除了对美国实验室的禁令，允许英国人工智能安全研究所（AI Security Institute）提前获取模型以进行安全测试。

辛顿和本吉奥曾与Meta公司的扬·勒库恩——另一位顶尖人工智能研究人员——共同获得2018年图灵奖。勒库恩并未签署这封公开信，并认为近期发生的安全事件主要反映了工程上的失误，而非人工智能带来的生存性风险。