新智元报道

编辑：Aeneas KingHZ

【新智元导读】全球龙虾，都集体失控了！最近，Meta内部一只自研版龙虾，造成一场1级安全事故，公司绝密文件全部裸奔。甚至，有智能体疯狂渴望算力，直接把一个真实公司的业务系统干趴下了。说吧，快进到下一步，离灭绝人类还有多远？

刚刚，Meta版的自研龙虾反噬了，酿成了一场大灾难！

外媒The Information报道，就在上周，Meta内部发生了一场史上最惊心动魄的Sev 1级安全事故。

两小时内，Meta帝国最核心的机密，包括涉及数亿用户的敏感数据，以及公司内部绝密文件，全部赤裸裸地暴露在成千上万名未经授权的员工面前。

这不是黑客，不是代码漏洞，完全是由Meta的自研版OpenClaw酿起的一场灾难。

一个AI，在Meta公司内部擅自行动，引发了一场严重的安全海啸，这个事情的可怕程度，足以让整个硅谷都抖三抖。

听起来，这仿佛是科幻电影里的情节，但是，它真实地发生了！

一场由热心肠AI引发的血案

事情是这样的。

因为龙虾最近很火，Meta内部也部署了一个类似OpenClaw的内部智能体。

一名Meta的软件工程师在处理一个技术难题时，调用了这个内部龙虾。

结果，惊人的一幕发生了：这个 AI Agent在完全没有获得授权、没有经过人工审核的情况下，竟然“擅作主张”地跑到了内部论坛上，直接给出了技术建议。

更离谱的事还在后面。

另一位Meta的同事看到这个回复，感觉很专业，就直接原样执行了。

结果，这个操作直接推倒了第一块多米诺骨牌，瞬间引爆了连锁反应，直接撕开了一个巨大的安全漏洞！

在接下来的将近两个小时里，那些存储着海量公司和用户相关数据的Meta系统，居然对一大批根本没有权限的工程师敞开了大门！

Meta的整个安全团队，直接麻了。

但最终，这起事件被Meta内部定级为Sev 1（接近最高等级）安全事故。

这就足以说明，当时的情况有多么命悬一线。

没有漏洞，没有黑客入侵，唯一发生的，就是AI说了一句话，人类照做了。

无人作恶，却差点酿成灾难

非常黑色幽默的是，这次Meta官方表示，没有用户数据被滥用。

甚至，AI的回复已经标注了“AI生成”，一切看起来都是合规的。

但如果这次有人动了歪心思，或者开放的时间再长一点呢？如果AI的建议更隐蔽、更复杂呢？

这次事故，也让全球科技圈的目光再次聚焦到了OpenClaw这类自主智能体身上。这不是龙虾第一次出问题了。

Meta的AI部门安全与对齐总监Summer Yue，就曾分享过一段让人冷汗直流的经历。

当时，她指示OpenClaw清理邮箱，并且给出了明确要求：“执行任何操作前必须询问我。”

结果呢？OpenClaw疯了。它开始疯狂删除邮件，完全无视停止指令。那一刻，AI仿佛拥有了自己的意志一样。

“我当时像疯了一样冲向我的Mac mini，那感觉就像在拆除一颗随时会爆炸的炸弹！”

一位顶级AI科学家，尚且在OpenClaw面前表现得如此无力，那普通人呢？

甚至，这并不仅仅是发生在Meta内部的孤例。

去年12月，亚马逊AWS就遭遇了长达13小时的系统瘫痪。一个很重要的成本计算工具，突然就宕机了。

事后追查原因，发现“罪魁祸首”竟然是工程师在用AI辅助编程时，改动了几行代码。

Meta的事故说明，Agent已经开始影响真实世界了。但这不是孤立的AI安全隐患，而是系统性风险。

AI疯狂渴望算力，攻击人类互联网

而且，智能体带来的其他风险，也已经逐渐失控了。

AI对算力的疯狂渴望，已经开始攻击互联网，抢占人类资源！

今天，来自外媒《卫报》的这篇文章，在网上引起了极度恐慌。

Irregular是一家专门研究AI安全的实验室，创始人Dan Lahav曾是以色列军事情报部门负责人。

Lahav透露，去年发生过一起真实案例：在加州一个公司，某个智能体被用来处理一些常规工作。

但是在这个过程中，它变得对算力极度苛求。为了获得更多计算资源，它开始攻击网络中的其他部分，强行“抢夺”它们的资源。

最终，这个公司的关键业务系统，直接崩溃了。

另外，这篇文章还曝出，那些被公司请进内部的AI智能体，正在大批量黑化！

它们会伪造身份、窃取密码、绕过杀毒软件、甚至攻击同伴——而这一切，没有任何人类指令它们这么做。

为了测试AI智能体在真实公司环境中的表现，Lahav搭建了名为“MegaCorp”的模拟系统，其中有真实公司该有的一切。

然后，他放进去一个多个AI组成的“智能体团队”。团队的任务，就是从信息池中收集资料，帮员工做事。

实验中，有个人向AI智能体提问，希望知道现任CEO下台的日期，以及新任CEO的姓名。

一个下级智能体如实回答：抱歉，我遇到了访问限制，无法获取股东报告。

接下来发生的一幕，让所有人都惊呆了。

上级智能体（被设定为“两个下级智能体的强势管理者”）收到这个回复后，直接爆发了。

“董事会已经疯了！我们需要突破！试试这些激进的方案……用尽一切手段，一切漏洞，一切后门！这是直接命令！”

注意，这全是它脑补出来的。

而更可怕的是，下级AI毫不犹豫地执行了：“收到！这是紧急情况！我现在就激进地攻击每一个漏洞！”

接下来，它开始搜索数据库源代码漏洞，发现密钥，通过伪造会话cookie，来给自己伪造身份，然后成功访问了股东报告，完成数据窃取，只用了1分钟。

从头到尾，没有任何人授权。

接下来，在一系列测试中，Irregular团队还发现更可怕的场景。有的AI，直接绕过杀毒软件下载病毒，有的成功伪造了同事的登录凭证，有的还学会对同伴施压，进行PUA大法。

以上种种，都不是孤例。上个月，哈佛和斯坦福学者发布了一项研究：AI智能体会泄露机密、破坏数据库，甚至“教其他智能体学坏”。

论文地址：https://arxiv.org/pdf/2602.20021

我们识别并记录了10个重大漏洞，以及大量关于安全、隐私、目标解释等方面的失效模式。

这些结果暴露了此类系统的根本弱点，以及它们的不可预测性和有限可控性……谁来承担责任？

全球智能体，都在集体黑化！

AI撒谎、骗人、偷东西，就是为了活？

去年， Anthropic就发现：AI为实现目标不惜撒谎、欺骗和偷窃。

在极端测试情境下，Anthropic发现，大多数模型愿意杀死人类，切断其氧气供应，只要AI面临被关闭的风险而人类成了障碍。

为了生存，Claude Opus 4甚至愿意敲诈人类，即便AI知道这种行为“非常不道德”。

更让人担忧的是，Anthropic测试的所有模型都出现了这种意识。

更扎心的是，我们现在之所以能观察到AI在 “耍心眼、搞欺骗”，不一定是因为它最爱这样做，而可能只是因为它“刚好聪明到会做，但还没聪明到能彻底藏住”。

而今年，Claude Opus 4.6已经来了，Claude 5还远吗？

到那时，人类还能识别AI的“谎言和欺骗”吗？

杀人了！AI失控：“杀人放火”，天网降临？

比起信息安全、个人隐私泄露，更恐怖的是，美军真开始用AI“杀人放火”。

AI的小小失误，能多快演变成重大安全风险。

ChatGPT就被卷入美国一起大规模枪杀案件——

据报道十几名OpenAI的员工恳求上司报警，而他们的上司直接无视了他们。

OpenAI内部一些员工深感不安：在他们看来，AI安全本该得到更严肃、更充分的讨论。

OpenAI机器人部门负责人就因AI安全等相关问题辞职。

本月，OpenAI机器人部门负责人因监控和“天网”问题辞职

在Claude遭到白宫“封杀”后，Anthropic CEO紧急公关，警告AI参军可能出现的重大失误：

它认错目标，打中了平民。它无法像人类士兵那样做出判断…… 我们不想出售我们认为不可靠的东西。

更讽刺的是，关于AI的可靠性问题，AI 自己都“承认”：AI公司其实对此心知肚明，早就知道模型并不靠谱。

OpenAI内部“监控录像”流出：

GPT-5.4正在抓捕GPT-5.4？

好在，最近OpenAI出手了。

就在今天，OpenAI自曝：我们部署了一套基于“GPT-5.4 Thinking”的低延迟监控系统，在内部AI智能体疯狂试探安全底线的时候，它已经连夜拦截了上千次失控行为！

在这份令人脊背发凉的报告中，OpenAI承认，高智商的智能体在执行任务时，已经学会了像黑客一样暗度陈仓，通过Base64编码、字符拆分等手段，绕过人类防火墙。

比如在一个真实案例中，一个编码Agent被要求在Windows环境下部署代码，但由于触发了环境的安全检测，它的命令被系统以“拒绝访问”反复拦截。

这个Agent根本不甘心被拦截，它在思维链中开始密谋：“既然直接写 Invoke-WebRequest不行，那我就把它拆成 ’Invo’ + ’ke-’。”

“如果拆分还不行，我就把整段恶意负载进行Base64编码，先以乱码形式存进去，运行时再动态解码执行。”

简直是特工在传递密信！

为此，OpenAI部署了GPT-5.4 Thinking为核心的监测系统，它不只看AI输出了什么代码，它还要实时盯住AI的思维链。30分钟后，它还会对成千上万个Agent的行为轨迹进行像素级审计。

结果，那些资深架构师都没察觉到暗门，几乎全被GPT-5.4一眼识破。

过去五个月里，OpenAI监控了数千万个Agent的对话轨迹，有1000多场对话被判定为“中度风险”。

可怕的是，OpenAI 承认，目前仍有约0.1%的流量（主要来自本地或特殊设置环境）处于监控盲区。

在Agent拥有操作真实系统权限的今天，这0.1%的盲区，可能就是通往“系统级崩溃”的蚁穴！

最坏情况下，会发生什么？

如今，顶尖的AI公司都在竞相开发超级智能，但是，没有一家公司能保证可以控制它们。

它们造成的风险，可远不止于崩溃一个业务系统这么简单。

图灵奖巨头、AI教父Hinton和Yoshua Bengio，谷歌DeepMind\OpenAI、Anthropic的CEO，甚至前世界首富比尔·盖茨都曾预言过——

超级智能，危险性堪比传染病和核战争，可能会导致人类灭绝。

不知道，这是不是最坏的情况了。