Anthropic 公司拒绝五角大楼关于取消人工智能保障措施的要求
五角大楼表示,它并不寻求将人工智能用于大规模国内监控或完全自主的武器
全文改写;第 13 段增加了谷歌和 OpenAI 员工的来信
路透2月27日 - Anthropic 公司表示,尽管五角大楼威胁要将该公司视为 "供应链风险",并将其从国防部的系统中删除,从而危及一份价值 2 亿美元的合同,但该公司不会同意五角大楼的要求,取消其人工智能系统中的保障措施。
五角大楼与Anthropic (link) 的纠纷源于这家人工智能初创公司拒绝取消保障措施,以防止其技术被用于在美国自主瞄准武器和进行监视。
当天早些时候,五角大楼发言人肖恩-帕内尔(Sean Parnell)在X上表示,五角大楼对使用人工智能对美国人进行大规模监控没有兴趣,也不想使用人工智能开发无需人类参与操作的自主武器。
"这就是我们的要求:允许五角大楼为所有合法目的使用 Anthropic 的模型,"帕内尔说,并补充说该公司必须在美国东部时间周五下午 5:01 之前做出决定。
"否则,我们将终止与 Anthropic 的合作,并将其视为供应链风险。
Anthropic公司首席执行官达里奥-阿莫代(Dario Amodei)在周四的一份声明中强调,该公司反对五角大楼 将其人工智能模型用于大规模国内监控或为完全自主的武器提供动力,后者是因为 "前沿人工智能系统根本不够可靠"。
一位接近该公司的消息人士称,Anthropic 公司并不是在指责五角大楼计划将人工智能用于这两种用途,而是在提供一种产品安全判断。
该消息人士称,人工智能系统在 "生死攸关的目标定位 "方面不够可靠,因为它们在新场景中的行为难以预测,在武器环境中可能导致 "友军误伤、任务失败或意外升级"。
消息人士说,将人工智能用于大规模国内监控存在问题,因为现行法律并不限制人工智能通过汇总大量数据得出结论。他们补充说,这意味着人工智能可以建立 "没有法律明文禁止,但明显违反宪法保护精神 "的人口级档案。
阿莫代说,他希望五角大楼能重新考虑,但如果五角大楼决定取消合同,该公司 "将努力实现向另一家供应商的平稳过渡"。
阿莫代说,五角大楼威胁说,如果Anthropic公司继续使用保障措施,将把该公司从其 系统中除名,将其定为供应链风险企业,并援引《国防生产法》强制取消保障措施。
"无论如何,这些威胁都不会改变我们的立场:我们不能昧著良心答应他们的要求。
美国国防部副部长 埃米尔-迈克尔(Emil Michael)在 X 上回应说:"@达里奥-阿莫德伊是个骗子,而且有上帝情结,这让人感到羞耻。他只想试图亲自控制美国军队,并将我们国家的安全置于危险之中。"
迈克尔说,五角大楼将 "永远遵守法律,但不会屈从于任何一家营利性科技公司的一时冲动"。
由谷歌和亚马逊支持的Anthropic公司与五角大楼签订了一份价值高达2亿美元的合同。
Anthropic发言人表示,该公司仍 "准备继续谈判,并致力于为该部门和美国的作战人员提供业务连续性"。
200 多名谷歌和 OpenAI 员工在一封公开信中支持 Anthropic 的立场。
谷歌和 OpenAI 没有立即回应路透的置评请求。
(为便利非英文母语者,路透将其报导自动化翻译为数种其他语言。由于自动化翻译可能有误,或未能包含所需语境,路透不保证自动化翻译文本的准确性,仅是为了便利读者而提供自动化翻译。对于因为使用自动化翻译功能而造成的任何损害或损失,路透不承担任何责任。)