Anthropic推AI安全法案:超50人死伤、10亿美元损失时可叫停模型

凤凰网科技
Oct 17

Anthropic

凤凰网科技讯 北京时间10月17日,据Politico网站报道,据三名知情人士透露,AI巨头Anthropic的代表已私下向美国国会议员推介了一份旨在监管前沿AI安全与保障问题的法案草案。

根据该法案,政府只有在某个AI模型构成可预见的、迫在眉睫的风险时,阻止其发布或使用,这些风险包括造成超过10亿美元损失,或导致50人以上死亡或重伤。该风险必须源于模型制造或释放生物武器、模型逃避开发者控制,或发动网络攻击。这一表述与加州AI法律(包括去年签署成为法律的SB 53)中的规定如出一辙。

该法案显示,独立评估机构须向美国商务部注册,并负责定期评估AI实验室及其前沿模型。评估机构可以由接受评估的实验室支付报酬,但报酬不得与评估结果挂钩。如果评估机构认定某公司的前沿模型存在“迫在眉睫的法定列举风险”,他们必须在完成评估后72小时内向商务部报告。

今年夏天,多头部AI实验室披露了一系列事件,其中包括AI智能体入侵或探测网站和平台。截至目前,所报告的事件似乎均未造成大规模人员死亡或超过10亿美元的损失。

Anthropic发言人表示:“这项法案体现了我们在《先进AI框架》中提出的建议。自6月以来,我们一直在推动联邦和州立法者采纳这些建议。这些政策合理可行,我们认为国会应该采取行动。”(作者/箫雨)

更多一手新闻,欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道,请微信搜索“凤凰网科技”。

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10