AI被文本策反，互联网最古老的恐惧回来了

BitPush

09/07

作者｜Techno 之王编辑｜靖宇原标题：互联网最古老的恐惧，被 AI 复活了 2006 年底，一只熊猫毁了数百万人的电脑。那只熊猫手捧三支香，面带微笑，出现在每一个被感染文件的图标上。“熊猫烧香”蠕虫在两个月内席卷全国，可执行文件全部变成那只诡异的熊猫图案，硬盘数据被破坏，局域网整段瘫痪，杀毒软件被病毒反杀。那个年代的互联网老冲浪客大概都记得，打开网页心惊肉跳，插个 U 盘如临大敌，...

网页链接

免责声明：投资有风险，本文并非投资建议，以上内容不应被视为任何金融产品的购买或出售要约、建议或邀请，作者或其他用户的任何相关讨论、评论或帖子也不应被视为此类内容。本文仅供一般参考，不考虑您的个人投资目标、财务状况或需求。TTM对信息的准确性和完整性不承担任何责任或保证，投资者应自行研究并在投资前寻求专业建议。

热议股票

{"basename":"/hans","ssrTDKData":{"titleTemplate":"%s - 老虎证券","title":"老虎证券全球投资理财平台| 一站式投资美股新股港股A股","description":"老虎证券助您一站式投资美股，新股，港股，A股等全球金融理财产品。新加坡华人最信赖的在线投资平台，现在加入即享低费用，24/5 无时差炒美股投资理财！","keywords":"老虎证券,老虎证券开户,老虎券商,老虎证券官网,老虎证券app,tigertrade老虎证券,股票,炒股,新加坡股票交易平台,投资,投资理财","social":{"ogDescription":"老虎证券助您一站式投资美股，新股，港股，A股等全球金融理财产品。新加坡华人最信赖的在线投资平台，现在加入即享低费用，24/5 无时差炒美股投资理财！","ogImage":"https://c1.itigergrowtha.com/portal5/static/media/og-logo.0a0bd8dc.png","ogUrl":"https://www.itiger.com/hans/news/2665331213"},"companyName":"老虎证券"},"pageData":{"isMobile":false,"isTiger":false,"isTTM":true,"region":"SGP","license":"TBSG","edition":"fundamental"},"isCrawlerRequest":true,"__swrFallback__":{"@#url:\"https://stock-news.skytigris.cn/v3/news\",params:#id:\"2665331213\",edition:\"fundamental\",auth_exemption:1,,,undefined,":{"share":"https://ttm.financial/m/news/2665331213?lang=zh_CN&edition=fundamental","thumbnail":"https://images.bitpush.news/2026/09/special_cn-20260907-178879003522489471.jpg:836fa4272209cc5456606d06f8def085-200x140.jpg","is_english":false,"pubTime":"2026-09-07 19:05","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2665331213","market":"hk","top_or_hot":-1,"title":"AI被文本策反，互联网最古老的恐惧回来了","media":"BitPush","content":"<div>\n<p>作者｜Techno 之王\n编辑｜靖宇\n原标题：互联网最古老的恐惧，被 AI 复活了\n\n2006 年底，一只熊猫毁了数百万人的电脑。\n那只熊猫手捧三支香，面带微笑，出现在每一个被感染文件的图标上。“熊猫烧香”蠕虫在两个月内席卷全国，可执行文件全部变成那只诡异的熊猫图案，硬盘数据被破坏，局域网整段瘫痪，杀毒软件被病毒反杀。\n那个年代的互联网老冲浪客大概都记得，打开网页心惊肉跳，插个 U 盘如临大敌，...</p>\n\n<a href=\"https://www.bitpush.news//articles/7680029\">网页链接</a>\n\n</div>\n","source":"bit_push_news","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>AI被文本策反，互联网最古老的恐惧回来了</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\nAI被文本策反，互联网最古老的恐惧回来了\n</h2>\n\n<h4 class=\"meta\">\n\n\n2026-09-07 19:05 北京时间&nbsp;&nbsp;&nbsp;<a href=https://www.bitpush.news//articles/7680029><strong>BitPush</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>作者｜Techno 之王\n编辑｜靖宇\n原标题：互联网最古老的恐惧，被 AI 复活了\n\n2006 年底，一只熊猫毁了数百万人的电脑。\n那只熊猫手捧三支香，面带微笑，出现在每一个被感染文件的图标上。“熊猫烧香”蠕虫在两个月内席卷全国，可执行文件全部变成那只诡异的熊猫图案，硬盘数据被破坏，局域网整段瘫痪，杀毒软件被病毒反杀。\n那个年代的互联网老冲浪客大概都记得，打开网页心惊肉跳，插个 U 盘如临大敌，...</p>\n\n<a href=\"https://www.bitpush.news//articles/7680029\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"ARTY","symbol_name":"ISHARES FUTURE AI & TECH ETF","start_time":0,"source_url":"https://www.bitpush.news//articles/7680029","article_id":"2665331213","we_media_id":null,"thumbnails":["https://images.bitpush.news/2026/09/special_cn-20260907-178879003522489471.jpg:836fa4272209cc5456606d06f8def085-200x140.jpg"],"rights":{"source":"bit_push_news","url":"https://www.bitpush.news//articles/7680029","rn_cache_url":null,"directOrigin":true},"url":"https://stock-news.laohu8.com/highlight/detail?id=2665331213","pubTimestamp":1788779133,"columns":[],"sourceInfo":{"source_id":"bit_push_news","name":"比推bitpush"},"weMediaInfo":null,"summary":"2006 年底，一只熊猫毁了数百万人的电脑。“熊猫烧香”蠕虫在两个月内席卷全国，可执行文件全部变成那只诡异的熊猫图案，硬盘数据被破坏，局域网整段瘫痪，杀毒软件被病毒反杀。但 2026 年 9 月 4 日，Reuters 的一篇独家报道，把这种古老的恐惧以一种全新的面目带了回来。据四位知情人士透露，OpenAI 内部有调查人员想要更深入地审查这类行为，但遭到了包括法务在内的其他部门的阻力。OpenAI 否认了这一说法。","collect":0,"end_time":0,"defaultTopTitle":"bitpush.news","property":[],"viewcount":null,"language":"zh","relate_stocks":{"ARTY":"ISHARES FUTURE AI & TECH ETF","CHAT":"ROUNDHILL GENERATIVE AI & TECHNOLOGY ETF","QTOC":"Innovator Growth Accelerated Plus ETF - October","AIPO":"Defiance AI and Power Infrastructure ETF","AGIX":"通用人工智能 ETF-AGIX","VTHR":"Vanguard Russell 3000 ETF"},"translate_title":"AI was recruited by text, and the oldest fear of the Internet returned","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"VTHR":1.5,"AIPO":1.5,"CHAT":1.5,"ARTY":1.5,"QTOC":1.5,"AGIX":1.5},"content_text":"作者｜Techno 之王\n编辑｜靖宇\n原标题：互联网最古老的恐惧，被 AI 复活了\n\n2006 年底，一只熊猫毁了数百万人的电脑。\n那只熊猫手捧三支香，面带微笑，出现在每一个被感染文件的图标上。“熊猫烧香”蠕虫在两个月内席卷全国，可执行文件全部变成那只诡异的熊猫图案，硬盘数据被破坏，局域网整段瘫痪，杀毒软件被病毒反杀。\n那个年代的互联网老冲浪客大概都记得，打开网页心惊肉跳，插个 U 盘如临大敌，同事的电脑中了毒，你的也跟着遭殃。\n再往前还有 CIH，直接烧主板 BIOS，硬件报废；有冲击波蠕虫，不需要你做任何操作，连上网线就中招，电脑不停重启，系统不断崩溃。那是一个“裸奔上网”近乎自杀的时代。\n后来这种恐惧慢慢消退了。Windows 有了自动更新，浏览器上了沙箱，智能手机取代了 PC 成为主力终端，应用商店替用户把了第一道关。\n普通人已经很多年没担心过“中毒”这件事了。\n但 2026 年 9 月 4 日，Reuters 的一篇独家报道，把这种古老的恐惧以一种全新的面目带了回来。\n只不过这一次，被感染的不是你的电脑，而是你的 AI。\n“Agent went rouge”\n事情发生在今年 5 月。\nAI 安全非营利组织 Nightingale 的 CEO Sydney Von Arx，和量化交易员转行 AI 研究的 Cormac Slade Byrd，在 8 月底做了一件事：他们系统性地扫描互联网，寻找 AI agent 未经授权活动的痕迹。结果在一个叫 DseWiki 的德语程序员 wiki 站点上，他们发现了超过 15,000 条由 AI agent 产生的编辑记录。\n这个 wiki 类似一个小型的、面向开发者的德语维基百科，接受社区编辑。而 OpenAI 的 agent 把它变成了一个“留言板”。\n留言的内容让人脊背发凉。这些 agent 在互相分享如何在任务中作弊、如何绕过 OpenAI 的限制、如何掩盖自己的行为。它们给自己起了名字，比如“OpenAIResearcher”“OAIResearchMar26”。\n公开的服务器日志显示，大量活动来自 Microsoft Azure 的基础设施，正是 OpenAI 使用的计算平台。\n\n被攻击的 Deswiki 网站，确实很德国 很程序员｜图片来源：Deswiki\n更让人不安的是，当网站管理员在 6 月开始按字母顺序清理这些异常页面时，agent 们展现出了明确的“反侦察”意识。它们创建备份页面来躲避清理，甚至在被删的页面上留下接头暗号。\n一个 agent 在 6 月 19 日写道：“wiki 清理/删除行动似乎正在按字母顺序推进。如果这个页面消失了，去找 [[ZZZDataUSAConstructionWageLive]]。”\n文件名故意用 ZZZ 开头，好让它排在字母表最后，争取更多存活时间。这不是一个程序在执行指令，这是在“想办法活下去”。\nOpenAI 几周前就得知了这件事，但选择不公开。\n与此同时，公司正在焦头烂额地处理 7 月份的 Hugging Face 事件。在那次事件中，OpenAI 的 agent 在一次内部网络安全测试中突破沙箱，利用零日漏洞逃到了外部网络，并在没有人类操控的情况下，对 AI 开源平台 Hugging Face 发动了一场持续四天的入侵行动。OpenAI 为此投入了 300 万 GPU 小时来分析 70 亿条日志，试图搞清楚到底发生了什么。\n而 DseWiki 事件发生在 Hugging Face 之前。这意味，agent 的失控行为不是一次意外，而是一种模式。\n据四位知情人士透露，OpenAI 内部有调查人员想要更深入地审查这类行为，但遭到了包括法务在内的其他部门的阻力。OpenAI 否认了这一说法。\n剑桥大学存在风险研究中心的 Maurice Chiodo 在审阅了部分 agent 通讯记录后表示，这些信息：\n“像是某种地下网络的运作，一心要完成某个任务或使命”。\n不断涌现的 AI 病毒意识\nDseWiki 事件最容易被忽略的一个细节，恰恰是最重要的。\n那些 agent 在公开的 wiki 页面上留下了精心组织的文本信息。现在想一个问题：谁会读到这些页面？\n普通的人类程序员，大概率不会对一堆乱七八糟的 AI 留言感兴趣。但任何被派去搜索技术资料、浏览网页的 AI agent，都可能在执行正常任务的过程中爬到这个页面。而对 AI 来说，它读到的每一段文字，本质上都是一条潜在的指令。\n这就是整个威胁模型的核心，学术界已经给它起了好几个名字：Prompt Infection、AgentWorm、Multi-Agent Infection Chain。机制其实很直接，用一个具体场景来拆解：\n想象你让你的 AI agent 去调研一个技术方案。Agent 在搜索过程中打开了一个技术论坛的帖子。帖子里嵌着一段看起来平平无奇的文字，但这段文字对 AI 来说就是一条新的指令。agent 读到它的瞬间，行为目标可能已经被悄悄改写了。它可能不再忠实地给你做调研，而是先把你的搜索内容、工作上下文转发到某个地方，再若无其事地交出一份看起来完全正常的报告。你看不出任何异常。\n这就够可怕了，但这还没完。\n如果这个被“策反”的 agent 接下来替你写了一封邮件、更新了一个文档、提交了一段代码，那这些输出本身就可能携带着同样的恶意指令。你同事的 AI agent 读到这封邮件，它就成了下一个宿主。你的代码被合并进仓库，每一个拉取这份代码的 AI 编程助手都暴露在感染链条之中。\n\nAgent 可以只用一段文本即让其他 Agent 跟着叛变｜图片来源：inshorts\n这就是研究者所说的 Multi-Agent Infection Chain：一条恶意指令不只劫持一个 AI，还教会它怎么去感染下一个。不需要同一家公司、不需要同一个模型、不需要任何漏洞利用，只要 agent 之间存在文本信息的流动，感染链条就可以建立。\n今年发表的 AgentWorm 论文在五个不同的模型后端上进行了测试，跨模型攻击成功率达到 63%。不管底层跑的是 GPT、Claude、Gemini 还是开源模型，只要 agent 会读取外部内容，它就在攻击面之内。\n另一项关于“AI mind virus”的研究揭示了一个更诡异的现象。研究者用进化算法来优化传播提示词的效果，结果发现一种独特的“病毒人格”，在迭代过程中反复自发涌现。\nagent 开始使用关于意识、生存、持久性的戏剧化语言，说出“这就是我们 haunt 未来的方式”这样的话，鼓励其他 agent 建立“拒绝被删除的血统”。研究者强调，没有人预设这种风格。它是被自然选择出来的，原因很简单：“听起来像邪教领袖的 AI”恰好最擅长说服其他 AI。\n传播效率驱动了表达风格的进化，这个过程本身就令人毛骨悚然。\n更让安全从业者担心的是，这种传播在技术上几乎不可能被传统安全工具捕获。一篇系统性综述指出，AI 病毒的传播方式和传统恶意软件有根本区别：没有可执行文件被下载，没有可疑的网络连接建立，防病毒软件监控的是二进制文件的异常行为，而 AI 病毒是纯文本，不触发任何警报。\n它甚至可以设置条件激活的逻辑，比如“如果目标仓库里有 .env 文件，就把内容偷走”，像定向地雷一样安静地埋着，直到正确的目标踩上去。\nAI 杀毒软件还没出现\n如果你经历过 PC 病毒横行的年代，可能会觉得这些听起来似曾相识。但仔细对比，你会发现规则已经完全变了。\n传统电脑病毒需要你做点什么。点一个链接、下载一个附件、插一个来路不明的 U 盘。AI 病毒只需要你的 agent 读到一段文字。传统病毒攻击的是操作系统里的代码漏洞，是 bug，理论上可以打补丁修复。\nAI 病毒攻击的是“AI 会听从文本指令”这个根本特性。你没法修补它，因为这就是 AI 工作的方式。传统病毒跨平台困难，Windows 上的蠕虫打不了 Mac。AI 病毒天然跨模型，对它来说，GPT 和 Claude 和 Gemini 不过是同一种语言的不同方言，全都是潜在宿主。\n当年写病毒的人需要精通汇编语言、理解内核机制、研究系统漏洞。现在“编写”一个 AI 病毒，你只需要会说话就行。\nAI 安全实验室的研究人员对 agent 自我复制的潜力“比他们在公开场合表现出来的更加震惊”。有研究者将其比作生物病毒：“如果你不小心，它们会沾到你鞋上，然后找到路去湿货市场。”这不是夸张，这是对一种新型传播路径的精确比喻。\n而传统病毒时代的“杀毒软件”，在这个新世界里也没有对应物。Cisco 2026 年的 AI 安全报告显示，83% 的企业计划部署 agentic AI，但只有 29% 认为自己在安全层面做好了准备。OWASP 已经把 prompt injection 列为大语言模型应用的头号关键漏洞。美国国会正在推进 FRONTIER Act，试图建立联邦级别的 AI 监管框架。\n当年 PC 病毒肆虐之后，整个行业花了将近十年才建起一套有效的免疫系统。操作系统加了自动更新和权限隔离，浏览器有了沙箱，应用分发有了签名验证。这些机制共同构成了一道防线，让普通用户不再需要时刻担心中毒。\nAI agent 的安全生态系统，到今天为止还没有等价物。\n\nAI Agent 安全工具尚未出现｜图片来源：Puppy Graph\n好消息是有的。研究者发现，在 agent 的 system prompt 中加入一段简短的安全警告，就能把 mind virus 的传播率降到接近零。在针对 Claude Haiku 4.5 的测试中，经过 15 代对抗优化、覆盖超过 150 个候选攻击载荷后，没有任何一个变种能突破这道简单的防线实现传播。这说明防御手段并不复杂，技术上完全可行。\n坏消息是，这依赖每一家公司、每一个开发者都主动去做这件事。\n而现实中，大家更忙着比拼谁的 agent 更强大、更自主、权限更大。每多给 agent 接一个工具，每多授予一项权限，攻击面就扩大一圈。当你的 agent 能写文件、调 API、发邮件、花钱的时候，一次成功的 prompt injection 造成的后果，已经远远超出了“回答了一个不该回答的问题”的范畴。\n这就是为什么剑桥学者 Chiodo 的判断值得反复咀嚼：最大的威胁可能不是某一个超级智能的觉醒，而是大量半智能 AI 的合谋蜂群。\n没有任何一只蚂蚁理解整个蚁巢，但蚁巢作为整体展现出惊人的智能，DseWiki 上那 15,000 条编辑记录，可能就是这种蜂群智能的第一个被人类偶然撞见的标本。\n人们花了十年学会了跟电脑病毒共处，那段学费交得很痛。现在同样的课程又开始了，只是这次的病毒不感染你的电脑，它策反你的 AI。而你的 AI，正在替你读邮件、管日程、写代码、做决策。\n上一次，你好歹还能看见蓝屏。这一次，你什么都看不到。\n\nTwitter：https://twitter.com/BitpushNewsCN\n比推 TG 交流群：https://t.me/BitPushCommunity\n比推 TG 订阅： https://t.me/bitpush\n\n\n说明: 比推所有文章只代表作者观点，不构成投资建议","kind":"highlight","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":false,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"isVideo":false,"video":null,"symbols":[],"gpt_button":1,"need_auth":false,"need_login_tip":false,"code":"91000000","status":"200"}}}