文｜腦極體

提到007我們會想到什麼？特工、美女、炫酷的裝備、激烈的戰鬥、要搖勻不要攪勻的馬提尼。我是007全系列的忠實觀衆，但確實看到的也大體就是這些。

直到最近玩了最新的007遊戲《007：初露鋒芒》。反派揭曉的時候我發現喫瓜喫到了自己行業。劇透警告啊各位，這部遊戲的反派赫然是一家AI大模型公司。

我琢磨着自己天天寫AI公司，也沒發現需要動用詹姆斯·邦德來打擊啊？一般來說資金鍊斷了它們自己就會倒閉。

但這時回頭看幾十年來數十部007電影，卻驚覺原來在特工的風花雪月故事之下，一直有一個鮮明的母題：科技之惡。

甚至可以這樣說，每次一有新科技出來，都一定會在007裏扮演一回反派。我想聊聊這種憂思，以及其背後的邏輯機制和群體性心理。

如果光看007炫酷的外表與風流的故事，我們很容易忽略這其實是一個標準的科技悲觀主義故事。

《007》系列的原著作者伊恩·弗萊明，曾經在二戰時期親自參與情報工作，見證了V-2火箭的恐怖威力，感受過德美之間的核武器角逐。由此種下了對未知科技深深的憂慮與恐懼，並將這一母題帶到此後的幾乎每一篇007故事當中，進而也被電影和遊戲吸收消化。

007對科技之惡的第一重想象，就是冷戰時期籠罩全球的原子能夢魘。在原著《太空城》裏，反派是英國的核武器專家，但包藏禍心準備將核彈射向倫敦。在電影《金手指》裏，反派準備用核武器攻擊諾克斯堡的黃金儲備，從而讓全球金融體系崩潰。這些對核武器的恐懼，與20世紀50、60年代冷戰背景下的核軍備競賽緊密相關。當時包括英國在內的全球主要國家，都宣傳過如何面對核威脅，應對導彈突襲等內容。這種緊張氣氛滲透到社會文化中，形成了一種對核子技術的深層恐懼。

隨着冷戰疑雲的散去，核恐懼的意味也逐漸降低。但對科技作惡的想象已經根植到007為代表的大衆流行文化深處。70、80年代，接力核恐懼的是基因恐慌。克隆、基因編輯、人類改造等話題崛起，重新喚醒了人們對科學怪人的恐怖記憶。在《雷霆殺機》裏，反派是一個納粹基因實驗的受害者。他因此獲得了超高智商與變態的性格，準備通過製造一場大地震來摧毀硅谷，從而讓自己的公司壟斷芯片市場。而這些怪誕的陰謀，似乎都來自不受控制的基因改造。對科技之惡的終極猜想，從人類會不會炸穿地球，變成了人類會不會親手培育怪物。

到了90年代，事情又發生了變化。互聯網崛起，全球化經濟浪潮襲來。007裏的反派們也逐漸脫離納粹身份。畢竟二戰已經過去幾十年，納粹總是不老不死也不太像話。新反派們大多是資本家，他們一手掌握互聯網話語權，一手是鉅額財富，還總是止不住地要給人類文明使點壞心眼。比如《明日帝國》裏有句著名台詞「話語是新的武器，衛星是新的大炮」。這部電影裏的反派是傳媒大亨，他利用衛星篡改GPS信號、製造假新聞，挑動國家開戰，居然只是為了換取更高的收視率，從而達成媒體壟斷。可見做媒體的誰還沒有個流量焦慮呢。

戰後恐懼原子能與核武器，70年代恐懼基因編輯與人體改造，90年代恐懼互聯網與全球化傳媒。007在幾十年間一遍又一遍地審判、懷疑這點人類科技碩果。

那麼到21世紀情況好起來了嗎？並沒有，因為AI來了。

AI時代007的科技恐怖故事要怎麼寫？《007：初露鋒芒》裏搞了一個讓我大開眼界的答案。

在這部作品裏，我們隨處可見由量子計算機、無人機、人形機器人、碩大服務器串聯起來的科技奇觀。這些冰冷巨大的科技物象之下，整個故事對科技之惡的懷疑角度更是令人咋舌。

怎麼個事呢？話說全球知名新能源科技巨頭韋伯家族，斥巨資研發了一個AI大模型THEIA。咱也不知道現實裏有哪個AI公司還同時做新能源，反正這家就是這麼做的。韋伯家族把自己的大模型推銷給了軍情六處，說是能用它預測全世界各地可能爆發的威脅，比如哪裏有恐怖襲擊，哪裏有非法交易等。特工們只需要按照大模型的分析預測行動，可以做到百發百中，算無遺策。

但實際上AI哪裏有那麼準？軍情六處的大傻子們居然不知道世界上有種東西叫作大模型幻覺。這個THEIA其實是經常預測不準的，很多所謂空襲、謀殺的預測都是它瞎編的。一般遇見這種情況，AI公司都是選擇重新訓練模型，推出準確率更高的版本，但韋伯科技的腦回路不是這樣的。也可能是因為他們賣給英國政府的是個本地部署模型，籤合同時，政府採購為了壓價拒絕了後續的模型升級服務。

總之，韋伯科技的選擇是在物理世界手動修復AI幻覺。比如THEIA預測哪裏有恐怖襲擊，但其實根本沒有。老韋伯就派自己的兒子去那裏製造恐怖襲擊；THEIA預測哪個人被謀殺，但到日子了人家活得好好的，老韋伯就讓自己兒子去謀殺TA。可謂是為了AI的準確率，上演了一出父慈子孝的人間喜劇。

韋伯家族的終極野心是，讓算無遺策的自家大模型被全世界接受，部署到全球各個能源中樞、軍事基地、民生基礎設施當中。他們認為人類不可信，最終所有權力都應該交給AI。而為了實現這個終極理想，他們願意為自己研發的不靠譜AI搞到血流成河。

很難想象腦回路清奇成這樣的人類，是怎麼在競爭激烈的科技產業站穩腳跟的。但這個故事確實展示了當前很多人對AI的根本性懷疑：AI告訴我的東西，如果是錯的呢？如果AI背後的人故意告訴我錯誤答案呢？當AI能力越強，這種懷疑與陰謀論就會愈發沉重，變成無解的死循環。

這就指向了007對科技的基本態度：技術可能無罪，但誰也說不準手握技術的人心裏藏着多大的惡意。

AI公司為了維持模型準確率，乾脆兼職當恐怖分子。這個故事放在科幻電影裏都能算是很無厘頭的設定。但它卻展示了一個007系列慣用的邏輯推演：我看不見手握技術的人，我不信任他們的善良。

事實上，007並不反對技術。至少這個系列裏非常喜歡通過Q博士的各種奇特發明來獲得關注。但他信任的是具體、微小、無傷大雅的炫酷技藝，不是威能大到可以影響公衆安全，支配群體話語的技術集權。換言之，007是低技術的愛好者，同時是高技術的疑心病人。

007的信條是，當科技的能力足夠強，那麼持有科技的具體的人，就絕對不值得任何信任。

這些人可以是企業家、資本家、政府機構的技術研究者，以及有權力使用技術的官僚。他們掌握技術往往會經歷三個階段：第一階段，見證技術的可怕性，開始相信技術即權力；第二階段，認為技術權力即自身權力的一部分，開始篤信享有技術權力的自己高人一等，凌駕於衆生之上；第三階段，道德理性和人文主義徹底潰散，認為自己可以顛覆秩序，重塑世界。甚至自身有義務去這樣做，於是也就走向了反人類的極端化立場。

所有掌握了技術密碼的人類，似乎不可避免都會步入這樣的循環。

這只是007以及諸多類似作品的極端化推演。但這種類似囚徒困境的博弈，卻在現代社會一次次帶來科技恐慌。直到這種恐慌情緒變成電影票房，也變成互聯網上無休無止的口水仗。

我們該警惕科技，恐懼AI嗎？從某種程度上來說是的，AI確實正在愈發體現出集權的一面。Anthropic詭異如邪教，馬斯克的狂言狂語令人窒息。十年前就有很多人呼籲禁止將AI用在軍事上，它現在已經赤裸裸地軍用了。很多聲音都在提醒小心AI詐騙，但AI詐騙正越來越多，如野火燎原。

我們自然有理由擔心AI變成某些狂人的無上權力，懼怕「每個人都覺得沒事，於是出事了」的局面出現。

但另一方面，007的科技恐慌言論從來沒有成功。拉低世界平均水準的有很多東西，但唯獨沒有科技。從核技術到基因技術，再到互聯網、AI、新能源，世界在科技的飛馳下越來越好，甚至很多時候是科技這一個好東西，在跟諸多壞東西抵死對抗。

另一個問題在於，很多時候警惕科技之惡，真不是就差「就差我一個」，而是「也不多我一個」。當我們的警惕超過合理界限，帶來的就不是對科技的有效監管，而是給反覆提醒我們科技作惡的人送上的流量與鈔票。

確實要警惕科技之惡，但也要警惕過度焦慮。當007故事只能用如此清奇的角度來編制AI公司的反派故事時，或許在某種程度上說明一切還都是樂觀的。至少編劇們沒什麼AI能毀滅世界的真實生活。

即使我們提供無窮無盡的擔憂，科技樹也會生長。我們要當心這棵樹絞住房屋，但也不妨在樹下略微乘涼。