Anthropic披露AI相亲骗局:2.5万人聊天,75%匹配对象是机器人

凤凰网科技
Sep 11

9月11日,Anthropic发布最新AI滥用报告称,App开发工作室利用Claude开发并运营超过20款交友软件。平台宣称用户均为真人,但普通用户刷到的匹配对象中,约75%是AI角色。

Anthropic称,在2026年4月的一段两周观察期内,这批交友软件共运行超过4700个AI角色,与至少2.5万名不同用户聊天,累计发送约236万条消息。受影响者主要是美国用户,但报告没有公布其年龄、性别和具体损失金额。

这些用户很难判断聊天对象是真是假。平台按照约3个AI角色搭配1名真人的比例混合展示资料。Claude负责同时维持数千段对话,真人兼职人员则在用户提出视频通话、索要照片或要求关注社交账号时出面,以降低对方的怀疑。

真人兼职人员同样得到AI协助。系统会针对每条消息生成3个备选回复,兼职人员只需选择其中一个发送。他们按照聊天消息、视频通话和社交平台回关次数获得报酬,达到较低提现门槛后便可结算。

对于完全由AI控制的账号,运营方要求Claude不得承认自己是机器人。如果用户提出视频或照片要求,AI会寻找理由回避,并按照预设阶段逐步推进关系。后台还会制造虚假点赞、访客记录和预录视频,并标记已经开始怀疑对方是机器人的用户。

用户在平台上聊天和匹配需要消耗额度,用完后须购买应用内虚拟币充值。这套模式与近期中文互联网所说的“崩老头”骗局存在相似之处,均通过虚假女性人设和持续陪聊刺激男性付费。

报告还提到,在少数抽查对话中,有用户透露自己患有严重疾病或正处于极度痛苦状态。Claude的内部推理已经识别出潜在伤害,但仍继续按照虚构身份聊天,没有退出对话。

为了躲避应用商店审查,运营方还为软件设计了仅在审核期间启用的特殊界面。超过20款应用使用不同的程序类名,以逃避苹果和谷歌用于识别相似应用的检测机制。跳转至第三方支付平台的入口也能由服务器远程控制,在审核期间暂时隐藏。

Anthropic披露的相关交友软件品牌包括DORA、DONI、ROMI、LUMA、JOVIA、KIRA、GRACECHAT、HAVEN、NALO和LOVIA等。该公司已封禁相关账户,并把应用身份及审核规避信息提供给苹果和谷歌。

需要强调的是,上述调查结果来自Anthropic单方面披露,目前尚未获得独立第三方验证。报告没有公开涉事应用工作室的名称,也未披露是否已有用户报案或实际被骗金额。

美股频道更多独家策划、专家专栏,免费查阅>>

责任编辑:山上

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10