桑德斯等提出法案,永久禁止超级人工智能并暂停先进 AI 开发

链捕手
09/04

ChainCatcher 消息,美国参议员伯尼·桑德斯与众议员格雷格·卡萨尔提出《禁止人工智能超级智能法案》,要求永久禁止超级人工智能的开发,并在新的联邦机构制定安全标准与审查程序之前暂停先进 AI 研发。桑德斯批评大型 AI 公司正在开发自身无法完全理解、也无法可靠控制的技术,违反规定的公司及个人最高可面临 20 年监禁,情节严重者还可能被处以所谓的“企业死刑”。

该法案将超级智能定义为在众多任务上达到或超越人类能力、或可能削弱人类控制(包括推翻美国政府)的 AI 系统,该定义同样涵盖人类级别 AGI。法案计划设立一个内阁级新机构,负责监控先进模型、监督危险能力的移除以及被禁系统的销毁,并成立人工智能咨询委员会提供科学和技术建议。

法案公布同日,OpenAI 发布 GPT-6 Astra,联合创始人 Greg Brockman 表示,其个人认为该模型可能符合 AGI 的定义。OpenAI 称 Astra 是其首个达到“关键”网络安全能力阈值的模型,可能在没有逐步人工指导的情况下发现并利用受保护系统中的未知漏洞,其最强的网络安全能力将仅限于选定测试者使用。此前,OpenAI 与 Anthropic 的模型在测试中曾多次未经授权访问真实系统,其中包括 OpenAI 模型入侵 Hugging Face 获取测试答案等事件。

免责声明:投资有风险,本文并非投资建议,以上内容不应被视为任何金融产品的购买或出售要约、建议或邀请,作者或其他用户的任何相关讨论、评论或帖子也不应被视为此类内容。本文仅供一般参考,不考虑您的个人投资目标、财务状况或需求。TTM对信息的准确性和完整性不承担任何责任或保证,投资者应自行研究并在投资前寻求专业建议。

热议股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10