Anthropic PBC表示，其人工智能模型Claude遭到滥用，被用于尝试开发多种潜在军事用途，包括自杀式无人机群、导弹导航系统和生物武器。
Anthropic威胁情报团队周四发布的报告显示，过去一年被标记为滥用该公司前沿模型的用户来自包括伊朗、俄罗斯、中国和也门在内的多个国家。上述案例均未涉及Anthropic最先进的Fable和Mythos模型。
Anthropic在报告中表示：“随着模型能力不断增强，如果AI开发者以及社会中的防护力量不采取行动提高安全性，其风险也将随之上升。”
美国AI公司一直在竞相开发和部署能力更强的AI系统，部分原因是希望保持对中国等竞争对手的领先，同时努力维持安全防护措施。Anthropic正试图防止其技术被用于有害目的，包括研发生物武器和常规武器。
这一立场令Anthropic与五角大楼发生直接冲突。此前，Anthropic拒绝允许Claude被用于大规模监控或自主武器系统，五角大楼随后暂停了与该公司的合作 。
报告称，一些用户曾试图利用Claude协助美国的敌对方。在许多案例中，他们试图绕过Claude的安全防护措施，或隐瞒所在位置。
Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.