AI 有這麼可怕嗎？

最新一期的時代雜誌封面直接用了 Claude 的聊天窗口，對話框里正在輸入「How dangerous are you? 你到底有多危險？」

封面標題則寫着「The AI Tipping Point AI 的臨界點」，時代在 X 發文，「今年夏天，AI 展現了其令人恐懼的能力。如今，一些研究人員、CEO 們，都正以前所未有的力度發出警報。」

的確如此，過去一周，從 Anthropic 研究員 Jacob Coxon 一篇離職的帖子在 X 上走紅，他說無論是 OpenAI 還是 Anthropic，這兩家他曾經就職的公司，都沒有意識到 AI 的威力，他們是在拿人類的生命風險去開發所謂的 AGI。

目前該帖子已經獲得超過 1.7 億次的瀏覽量，甚至比 GPT-6 Astra 模型發布的帖子 1.36 億次瀏覽量還要多。

當這條因為擔心 AI 失控而離職的帖子傳播開來之後，奧特曼、Dario、馬斯克意外地站在一條陣線，公開呼籲應該減速，甚至是暫停對 AI 的研究。

原本更多集中在 AI 安全研究所，以及一些小圈子的 AI 末日論組織裏的爭論，一下子變成了主流的議題。

而我們普通人似乎也就這樣被拉到了這套敘事裏，開始思考超級智能究竟會不會失控。

很簡單的道理，如果 AI 末日論是真的，AI 將來真的會強到取代我們所有人的工作，無論是簡單的打工人，還是高級到那些 CEO 們，都會被取代。

但如果這是假的，AI 只是一場泡沫，是這些前沿 AI 公司的營銷，那等到泡沫破裂，曾經因為 AI 而催生的行業和崗位又被裁撤，那些真金白銀的投資，以及我們現在做的所有事情，似乎是又會變成一場空。

所以，既然結果都一樣，那些焦慮的意義何在。

昨天，美國調查博主 Kevin Bass 在 X 發表了一篇長文，並把完整的證據放在 GitHub 上。

他深扒了 Anthropic 資金模式，發現這段時間以來的 AI 末日論裏，其中暗藏着一個巨大的陰謀。

錢的力量

在 X 上已經有將近 600 萬人在圍觀這件事，向來對「AI 末日論」嗤之以鼻的楊立昆也轉發了這條帖子，進一步推高了熱度。

Kevin Bass 的指控鏈條，可以用一句話概括：Anthropic 不只是在尋求所謂的 AI 需要監管，而是構建成了一台接好電的永動機，讓所謂的 AI 需要監管，AI 末日論永遠掌握在 Anthropic 手中。

這些陰謀可以被下面這張圖總結，即 Anthropic 的早期捐助者，與評估機構 METR 相關組織之間，有通過慈善中介機構進行的真實公共資金重疊情況。

圖｜中文簡化版

METR（Model Evaluation and Threat Research）是一家模型評估與威脅研究組織，前身是從 ARC（Alignment Research Center 對齊研究中心）分拆出來。

Anthropic CEO Dario Amodei 曾公開提議，前沿 AI 模型應該由「第三方評估機構」來做風險評估，並點名這個第三方就是 METR。

但 Kevin Bass 認為，從資金流向的問題上來看，METR 根本不「第三方」。

METR 所處的 AI 安全生態，資金高度集中在 Coefficient Giving（即原來的 Open Philanthropy）及其關聯機構手上；而這個捐贈體系的源頭，是 Facebook 聯合創始人 Dustin Moskovitz 早年以個人名義買入的 Anthropic 股票。

Forbes 估算這筆股份 2025 年初約值 5 億美元，並報道它已被捐入某個非營利載體。

當 Anthropic 的估值暴漲，這筆「不到 0.8%」的股份也從 2025 年早期的 5 億美元，按照 Anthropic 今年 5 月 Series H 孖展後約 9650 億美元的投後估值推算，9 月理論上限來到了 77 億美元。

圖｜英文版原圖

Kevin Bass 曬出的資金流證據具體到了個位數。

從 National Philanthropic Trust 的稅表顯示，FY2025 一年其 2.2 萬餘筆撥款中，流向 Founders Pledge 7882 萬、RAND 6165 萬、FAR AI 1442 萬美元。

在他看來，這些全是「METR 網絡」的輸血管道。同一筆錢還流向 Tarbell Center 這樣的 AI 新聞機構：Coefficient 的三筆撥款共約 529 萬美元（2024 年 11 月 81.6 萬、2025 年 3 月 288.8 萬、7 月 158.8 萬），其研究員的文章陸續在 TIME、The Verge、LA Times 等媒體上製造聲量。

於是，一個「完美的」正反饋迴路就出現了：Anthropic 估值越高，依賴這筆股票的安全生態越有錢，「AI 末日」的敘事喊得越響；而當這些機構不斷談論 AI 災難，社會越害怕，就越需要第三方的獨立評估；新的撥款和權力又回到熟悉的一群人手中。

但無論怎麼轉來轉去，這些第三方評估機構的工資，在 Kevin Bass 的調查下看來，甚至就是 Anthropic「給」的。

評估者在被評估者的工資單上。如果 Anthropic 死了，整個評估機構和末日機器都會癱瘓，所以他們誰也不能允許 Anthropic 出事。

這段時間以來的 AI 末日論，就變成一台接好電的永動機，根本找不到關掉它的地方。

股票漲，撥款漲；風險敘事升溫，評估需求又漲。

METR 一邊參與定義風險，一邊成為所謂的第三方評估者。

AI 會不會導致「世界末日」

Kevin Bass 這篇文章確實給了一些不一樣的視角，他從財經的角度來分析這些 AI 公司高漲的「AI 末日論」，試圖證明這個圈子既參與製造風險議題，也承接解決風險所產生的預算、權限和裁判權。

但也有網友發現這份分析報告，即便數據詳實，還是存在很多禁不起推敲的地方。

例如沒有找到具體的某一筆 Coefficient 或 Good Ventures 等基金會直接給 METR 的撥款。

其次，即便 METR 收錢了，也不能因此就將這些聯繫作為第三方機構的「騙局」，或者將其解讀為一場無法停止的資金倒置。

圖｜Kevin Bass 給出的證據，METR 的許多資助者同時也是 Anthropic 的投資者。

於是，當整個行業都在討論「誰來評估前沿 AI」的時候，評估者的獨立性到底應該用什麼標準來衡量？資金來源披露到什麼程度纔算夠？人員流動、人際關係和免費算力，又算不算利益衝突？

實際上，AI 末日論最特殊的地方，正是在於它很難真正輸掉。

圖｜由 AI 生成近期的 AI「太強」新聞拼貼

模型能力繼續提高，突破各種沙盒和變身「黑客」發起攻擊，以及在一個又一個千禧年大獎難題取得進展，就足以證明危險正在逼近。

而如果 AI 造成的嚴重事故沒有發生，可以歸功於預警和安全工作；當 AI 監管開始介入，說明此前的警告是對的；監管遲遲沒有跟上，又會成為爭取更多資金和權力的理由。

於是，AI 的繁榮開始供養批判 AI 的末日論，末日論又反過來證明這些公司掌握着足以改變人類命運的技術。

GPT-6 Sol 和 Opus 5.2 又快發布了，核彈爆炸後癱坐在椅子上的奧特曼，每隔一段時間就出來「踩剎車」的 Dario，以及不斷刷新能力上限的新模型，都在繼續為這套敘事提供新的素材。

下一次模型突破、下一次安全事故、下一篇離職長文出現時，「AI 會不會毀滅世界」的爭論大概還會重新開始。

但 Kevin Bass 這場爭議至少提醒了另一件事：當我們討論 AI 風險時，不能只盯着模型到底有多危險，也得看看是誰在定義「危險」，誰負責評估危險，以及圍繞這些判斷建立起來的制度，又在如何重新分配資金、監管權和話語權。

畢竟，AI 最先改變世界的方式，可能還不需要等到超級智能出現。

只要所有人都相信它可能出現，就已經足夠了。