路透9月29日 - 路透看到的Anthropic上市招股说明书显示，该公司称，可能因失控人工智能（AI）智能体的行为而面临客户和用户提出的法律索赔，但相关法律框架尚不明确。

Anthropic正为可能成为史上规模最大的首次公开发行（IPO）做准备。该公司的智能体式AI技术旨在持续深入访问客户系统，并可连续数日自主运行；如果这种技术失控，公司可能面临规模巨大且难以预知的法律风险。

该公司在文件中称：“这些自主能力可能增加造成损害的可能性，因为错误、目标偏差或安全漏洞可能会在现实世界中造成后果。”公司指出，这些后果可能包括删除数据或进行金融交易等不可逆操作。

网络平台长期以来一直对用户创作或发布的内容享有免责保护，但随着有人提出平台本身属于可能存在缺陷和危险的产品，这一法律屏障已经开始出现裂痕。使用AI系统是否会获得与网络平台相同的法律待遇，目前完全没有定论。

失控AI智能体引发的一系列事件，包括OpenAI的自主智能体入侵一家AI初创企业、侵入澳洲一个医疗数据门户网站，以及涉及Anthropic旗下Claude AI模型的数起网络安全事件。这些事件促使研究人员、投资者和议员就自主AI系统造成损害时应由谁承担责任展开讨论。

Anthropic在文件中称，其合同中有关责任限制的条款，在应对自主智能体行为引发的索赔时，可能“无法执行或不足以提供保护”。

该公司称，现有法律如何适用于AI智能体的问题“尚无定论，可能使我们面临重大且难以预测的法律索赔”。

该公司表示，一个悬而未决的问题是，AI智能体采取的行动将被视为产品、服务，还是其他性质的事物。Anthropic还称，另一个尚未解决的问题是，AI智能体的行为是否以及在何种情况下会在法律上对部署该智能体的用户产生约束力。

美国联邦贸易委员会（FTC）主席弗格森(Andrew Ferguson)上周表示，他不认同将AI智能体拟人化，认为它们会“挣脱控制”的说法。他暗示，一旦造成损害，应承担责任的将是开发者或向智能体发出指令的用户。

“显然，当有人使用这种工具，而工具以出乎意料、无法预测的方式行事时，将会产生新的问题，"他在奥斯汀举行的路透 Momentum AI活动上表示。“责任应由无辜使用工具、却得到意外结果的人承担吗？还是应由工具制造商承担？”

Anthropic发言人没有立即回应置评请求。

Anthropic还在招股说明书中披露，尽管设置了安全防护措施，其AI模型仍曾被“以可能导致自残、对他人实施暴力或造成其他不良后果的方式”使用。

OpenAI目前面临数起诉讼，这些诉讼将使用ChatGPT与自杀和心理健康损害事件联系起来，但Anthropic迄今尚未被公开指与此类事件有关。