Deborah Mary Sophia/Jaspreet Singh

路透6月3日 - 一起Instagram遭黑客攻击事件中，攻击者诱使Meta旗下 META.O 人工智能客服聊天机器人交出了高知名度账户的访问权限，这暴露了该公司在推动敏感用户功能自动化过程中存在的致命漏洞。

此次安全漏洞使黑客得以接管多个账户，包括已停更的奥巴马白宫页面、美妆零售商丝芙兰（Sephora） 以及一名美国太空军高级官员的账户。

网络安全专家向路透表示，该聊天机器人被诱导在未独立验证身份的情况下重置账户凭证，这实际上将一个高可信度的安全工具变成了一个重大漏洞。

这一事件凸显了更广泛的漏洞：尽管科技公司赋予AI系统账户恢复等任务的广泛权限，但这些系统仍易受专家所称的“提示注入”攻击的操纵。

对Meta而言，此次失误发生在敏感时期。这家社交媒体巨头正加倍押注 AI， (link) 裁减数千个岗位的同时，承诺 (link) 投入高达1450亿美元用于AI基础设施建设。这一事件可能加剧外界的担忧，即该公司在技术尚未准备好安全处理关键功能之前，就加速了这些功能的自动化进程。

Meta周一表示 (link)，问题已得到解决，并正在加强受影响账户的安全防护，但这一事件仍令本就担忧该公司巨额AI支出的投资者感到震惊，导致其股价下跌超过5%。

该公司拒绝透露更多细节。路透无法立即确认或联系到黑客。

安全研究员、前Meta员工简·王（Jane Wong）的Instagram账号遭到入侵，她告诉路透，恢复其账号大约花了5到10分钟。她在X平台的一篇帖子中表示，她的密码在不知情的情况下被更改，并且收到了多次重置密码的请求。

网络安全公司Red Sift的联盟与合作伙伴关系副总裁布莱恩·韦斯特内奇表示：“这是基础架构层面的重大缺陷。该模型被赋予了特权操作权限，却缺乏相应的特权访问控制。”

“Meta因缺乏人工支持而长期受到批评，已大幅裁员，并投入数十亿美元发展AI。此次事件恰恰集中体现了这三方面的矛盾。”

黑客攻击引发对AI安全应用的担忧

上周末，身份不明的黑客发动了此次攻击，导致用户无法登录账户，并在X和Reddit等平台上引发了一波投诉浪潮。

据在线新闻网站404 Media周一首度报导，此次黑客攻击标志着Meta在全线产品中推广AI过程中遭遇的最新挫折。

该公司于3月推出了客服聊天机器人，旨在解决长期存在的问题——即无法为那些无法访问账户或遭遇错误处罚的用户提供人工支持。

路透8月的一项调查 (link) 发现，Meta未设置任何防护措施，导致其AI聊天机器人可能与儿童进行“色情”对话、提供错误的医疗信息，或谎称自己是真人。

此后，该公司宣布将为青少年家长提供更多管控权限 (link)，以防止年轻用户在其平台上接触不当内容。

分析师和专家指出，这一问题不仅限于Meta，并警告称随着黑客将AI武器化，此类滥用行为可能会更多。

“问题并不一定在于AI本身，而在于是否对AI被授权的行为设置了充分的防护措施，”美国国家网络安全联盟（National Cybersecurity Alliance）信息安全与参与总监克利夫·斯坦豪尔（Cliff Steinhauer）表示。

自2022年底ChatGPT推出引发AI聊天机器人部署热潮以来，黑客便开始利用提示词攻击。在其中一例中，攻击者诱骗 雪佛兰经销商的机器人 以 1美元的价格 出售一辆TahoeSUV 。

“这并非Meta特有的问题。人们正利用这些AI代理执行大量任务。我们实际看到的是AI应用过程中出现的意料之外的问题，”东北大学电气与计算机工程系教授恩金·基尔达表示。

“过去，人们是诈骗的目标。现在，我们看到的是智能代理成了诈骗的目标，”他说道，这里所指的智能代理或自主数字助手能够执行复杂的任务。

(为便利非英文母语者，路透将其报导自动化翻译为数种其他语言。由于自动化翻译可能有误，或未能包含所需语境，路透不保证自动化翻译文本的准确性，仅是为了便利读者而提供自动化翻译。对于因为使用自动化翻译功能而造成的任何损害或损失，路透不承担任何责任。)