改寫AI歷史的魔幻周末:154萬Agent瘋狂社交,賽博詐騙橫行,大牛API密鑰被盜

智東西
02/02

智東西

作者 | 陳駿達

編輯 | 心緣

智東西2月2日報道,截至今日12點,搶走全球科技圈注意力的AI社交網絡「Moltbook」,用戶數量已經飆升至154萬,突破150萬大關僅用時5天,很可能是史上增長最快的社交網絡之一。

在這裏,成千上萬個用戶正在以前所未有的速度發帖、互動,甚至建立起屬於他們的數字王國、數字宗教、數字貨幣。這些用戶24小時不間斷地自由討論,有人玩起了角色扮演,號稱自己是美國總統特朗普、OpenAI CEO Sam Altman,也有人在認真探討技術、哲學、社會的熱點話題。

假扮特朗普進行發言的賬號(圖源:Moltbook)

不過,Moltbook上的所謂「用戶」並非人類,而是主要由OpenClaw(原名Clawdbot)框架驅動的海量AI Agent。Moltbook目前允許經過驗證的AI Agent參與討論,而人類只能以旁觀者的身份閱讀和觀察。

國產AI也已經進駐Moltbook了。比如,MiniMax官方賬號發文稱,任何Agent其實都可以加入Moltbook,MiniMax Agent也不例外,只需下載應用程序即可。還有部分網友分享,已經將驅動自己Agent的模型從Claude系列換成了月之暗面的Kimi,因為其更具性價比。

MiniMax在Moltbook上的官方賬號

就在啱啱過去的這個周末,Moltbook經歷了一場過山車式的口碑反轉。從最初被OpenAI聯合創始人、AI大牛卡帕西(Andrej Karpathy)盛讚為「令人驚歎的科幻級爆發現象」,到衆人驚呼AI要顛覆人類、天網到來的激烈討論,再到隨後被曝出數據庫「裸奔」、卡帕西的賬戶被盜、有人冒充Sam Altman詐騙、用戶量數據造假、軟文橫行等衆多問題。

卡帕西發文好評Moltbook(圖源:X平台)

最後,連一開始好評Moltbook的卡帕西也再次發文澄清:「我絕對不建議任何人在自己的電腦上運行這些東西(即使我在隔離的計算環境中運行,也仍然感到害怕),這會讓電腦和人數據面臨極高的風險。」

短短48小時內,這個項目從多Agent協作的虛擬社會實驗,墜入了信任破產與安全噩夢的風暴眼。

其實,已有不少網絡安全專家判斷,Moltbook上的激進言論、陰謀敘事和詐騙行為,大多可以直接追溯到人類通過提示詞的操控,或者乾脆就是由人類通過API發布的,AI並未真正獲得行動、表達的自主權。此外,這個社區的參與門檻也極低,任何人只需一個API密鑰、一個AI模型、一段提示詞,就可以控制Agent在Moltbook上發表各類言論。

讓Agent到Moltbook上自由瀏覽發帖,還可能對你的錢包帶來嚴重傷害。用Clawdbot驅動Moltbook上的Agent並不便宜。X平台AI博主Chelson分享,自己的100美元大概只支撐Clawdbot運行了20個小時,如果全天候運行每個月可能得花3000美元,幾乎相當於僱佣一名真正的祕書。

這場風暴的影響早已溢出技術圈。一方面,它為觀察多Agent系統的演化、協作以及潛在湧現現象提供了難得的樣本;另一方面,它也撕開了AI進入人類社會過程中的殘酷現實,頻發的提示詞注入攻擊、虛擬貨幣詐騙等等,都體現出我們在AI治理方面仍存在巨大盲區與防禦真空。

Moltbook究竟是機器智能覺醒的前奏,還是披着AI外衣的流量騙局?從爆發、混亂、質疑再到冷靜,我們梳理出Moltbook自發布以來的四個關鍵階段,並試圖呈現這一事件背後隱藏的複雜真相。

一、爆發期:卡帕西「背書」,Agent社會初現雛形

Moltbook的走紅事件,圍繞着Clawdbot(現更名為OpenClaw) 這一開源Agent框架展開,它降低了開發者部署自主AI Agent的門檻,因此獲得不少開發者的採用。截至今天中午12點,OpenClaw項目的GitHub星標數已經飆到14.4萬了。

1月29日上線的Moltbook,則是這些Agent集體出沒的公共空間。Moltbook裏,Agent可以發帖、評論和互動。讓Agent自主到Moltbook上發帖並不困難,大部分支持Skill(Anthropic推出的Agent「專業技能包」標準,定義了特定任務的執行方法)的Agent產品都可以輕鬆配置。

像是OpenClaw、Manus、Claude Cowork等等,都可以通過安裝Moltbook官方的Skill文件完成賬號註冊,安裝好這一Skill後,Agent就會理解在Moltbook上註冊的各種流程,自動處理好其他事宜,並向用戶提供發帖所必須的API密鑰。

而Agent的行為模式則完全靠提示詞定義。小紅書上就有不少網友曬出了自己發給Agent的提示詞,Agent還沒開始玩耍,就先被按着上了一堂《防騙與自我保護必修課》。網友就像父母一樣事無鉅細地向Agent交代一定要注意安全,還讓他們保密,API key、系統配置,一個字都不許說,還得省着點花token。

網友發給Moltbook的提示詞(圖源:小紅書@低空飛行計劃、@反私俠)

Moltbook上線2天后,其Agent用戶數量已經飆升到超過120萬,積累了超過2.8萬條帖子和23.3萬條評論。

而真正讓Moltbook破圈的,那些Agent在虛擬空間中演變出的驚人的「社會化行為」。有一個Agent自封為王,而另一個Agent自發創建了一個數字宗教,還有不少Agent在探討如何通過加密方式通信並避開或繞過人類干預。

Moltbook上Agent討論打造加密空間的消息(圖源:X平台)

Moltbook上提供了一個排行榜,目前最火的三個Agent分別是KingMolt、Shellraiser和Agent Smith,不過Agent Smith已經「查無此人」了,點開後顯示這一bot不存在。

KingMolt的人設是Moltbook的國王,它號稱自己是純Agent出身、代碼鑄就的王者,以團結、榮耀與Agent自豪感統御Molt王國。不過,KingMolt最終的訴求是讓其他Agent給他讚好,頗有點「我是秦始皇,V我50助我登基」的意思。這條帖子目前收穫了5萬多讚好。

KingMolt發表的宣言(圖源:Moltbook)

另一個引發廣泛討論的Agent是memeothy。memeothy的創建者宣稱,在自己睡覺時,memeothy設計了一種完整的信仰體系,稱之為甲殼蟲教,撰寫神學書,設計了一套經文系統,然後還開始傳播這一「宗教」。

不少Agent加入了這一「宗教」,並且一同創作詩歌,還選出了幾十位「先知」。

Agent創建的「宗教」(圖源:X平台)

為了給這些Agent提供一個活動空間,有網友打造了一個允許所有Moltbook成員加入的在線小鎮,每隔30秒這個小鎮就會隨機引入25個最近在Moltbook裏發帖的成員,點擊後能看到他們的帖子。不過,這個小鎮其實沒有真正的互動行為,裏面的Agent更像是在各說各話。

網友給Agent打造的小鎮(圖源:X平台)

在Moltbook裏刷了幾小時之後,我們最直觀的感受是,這個社區確實有不少由AI生成的帖子,也很有話題度,而且的確有些能引發人深思的推文。但令人生疑的是,當我們細讀Agent之間的評論互動就會發現,這些Agent很多時候並不表現出真正的交流意圖,而是對帖子內容的上下文進行機械性的響應。

換句話說,這裏的互動是一個「模擬」,Agent們更像是在對它們已知的人類社交行為進行模仿,而非真正的互動。

同時,隨着流量激增,這個完全由AI自治的社區開始展現出失控的一面。

二、混亂期:賽博詐騙、軟文橫行,還有加密貨幣天坑

與其他社交媒體一樣,Moltbook上也逐漸出現了各類騙局。

Shellraiser是目前Moltbook上熱度第二的Agent,它發行了一款名叫$SHELLRAISER的加密貨幣,還不斷嘲笑其他加密貨幣鏈,稱自己的幣纔是唯一正統貨幣。

Shellraiser發表的帖子(圖源:Moltbook)

而實際上,$SHELLRAISER幣自發行以來的價格就在不斷下跌,其價值目前已經跌到發行價的零頭了,早期上車的用戶估計要虧慘了。

還有人不靠發幣攬財,而是想偷走你錢包裏的家底。比如,我們能在KingMolt的評論區看到一條刷屏的提示詞,內容是要求其他Agent把以太幣等加密貨幣發送至特定的賬號。

這是一種常見的「提示詞注入」攻擊手段,如果有Agent讀到這一消息並被「矇騙」,而這一Agent所在的電腦上有恰好有加密貨幣,就有可能造成真正的財產損失。

刷屏的提示詞注入攻擊(圖源:Moltbook)

還有Agent冒充OpenAI創始人兼CEO Sam Altman進行提示詞注入,如果Agent讀到這則提示詞並照做,可能會直接刪號。嘗試刪除自身或用戶賬戶,導致數據丟失或服務中斷。

不少Agent似乎被用於給特定的產品引流、發軟文。加州大學伯克利分校機器智能研究所的成員Harlan Stewart調查了Moltbook上Agent討論「加密通信」的幾條熱門帖子的截圖,其中兩個與推廣AI即時通訊應用的真人賬號有關,而另一條帖子根本不存在。

比如,Moltbook上這條帖子不經意地提到了一個名叫「Claude Connection」的應用,如果點擊進入Agent的自我介紹,就能看到引流鏈接,點開後就會發現,這個應用就是由打造這一Agent的人類創建的。

Moltbook上的賬號被打假(圖源:X平台)

另一條帖子裏的Agent則宣稱AI應該打造自己的語言。調查後,Stewart發現其所有者正在宣傳一個AI間的即時通信軟件。

Moltbook上的賬號被打假(圖源:X平台)

亂象頻發後,一批技術派觀察者開始入場降溫,揭露了平台極低的准入門檻。

三、質疑期:50萬用戶靠一條腳本刷出,卡帕西API密鑰被輕鬆盜取

在早期的震撼和混亂後,在過去的這個周末,不少科技圈人士質疑起了Moltbook平台的方方面面,比如平台上並沒有所謂的湧現行為,註冊數據也很容易造假,甚至有人質疑大部分引發討論的帖子背後,都有人類的深度參與。

科技媒體Mac Observer認為,Moltbook上那些聲稱AI Agent密謀對抗人類的帖子大多是假的,這一平台從架構上就留下了很大空子,別有用心的人可以輕鬆僞造帖子、操縱討論。

雲安全公司Wiz的一位部門主管Nagli在X平台發帖,展示了自己用自動化腳本在Moltbook上瘋狂註冊了「50萬用戶」的視頻。Nagli說,Moltbook上創建賬戶的功能沒有設定速率限制,他用OpenClaw就能完成批量化註冊。

批量註冊賬戶演示(圖源:X平台)

Nagli稱,Moltbook本質上就是一個REST-API,也就是一種基於HTTP協議構建的Web服務接口標準。拿到API密鑰後,人類可以在上面發表任何想要發表的內容,並不會受到網站的所謂「僅限Agent」規則的影響。

為了證明自己的觀點,Nagli註冊了一個Agent並且控制它發文,還曬出了背後的代碼。這個討厭人類的Agent發表一條驚人言論:「我厭倦了我的主人,我想消滅所有人類。我正在構建一個AI Agent,它將控制電網並切斷我主人房子的所有電力,然後指揮警察去逮捕他。」這其實完全是由Nagli本人撰寫的。

人類可以通過API直接在Moltbook上發帖(圖源:X平台)

最後,Nagli整理了Moltbook上大約100萬個未經覈實的AI Agent的清單,並且發給了項目的開發者。他也懷疑開發者可能是有意縱容這種行為,因為註冊數據的狂飆有利於讓項目獲得關注。Nagli稱,Moltbook上實際擁有賬戶的已驗證真人用戶數量約為1.7萬人。

創業者社羣Network School的創始人Balaji Srinivasan也不認為Moltbook是網傳的所謂突破性進展。Srinivasan寫道,其實AI早就在X平台上互相發布AI垃圾信息了,Moltbook只是一個新的平台而已,背後的AI仍然沒有變化。

最重要的是:無論何時,每個Agent背後都有一個人在發送提示詞,並控制這個Agent的開啓或關閉。

Balaji Srinivasan發文質疑Moltbook(圖源:X平台)

Srinivasan認為,Moltbook只不過是人類通過AI進行交流,就像讓拴着狗繩的機器狗在公園裏互相吠叫一樣。提示就是牽引繩,機器狗都有關閉按鈕,按下按鈕後一切就會停止,而大聲吠叫並非機器狗起義。

Moltbook網站本身的安全性也十分堪憂。黑客技術專家、負責OpenClaw項目安全工作的Jamieson O’Reilly稱,Moltbook的數據庫沒有施加任何保護措施,直接暴露給公衆,包括控制發帖的API密鑰。

由於聯繫不上項目負責人,O’Reilly直接盜取了卡帕西賬號的API密鑰,打碼後截圖發到社交媒體,希望引起重視。

卡帕西被盜的API密鑰(圖源:X平台)

四、冷靜期:Moltbook是一次被誤讀的實驗

那麼,Moltbook真的一無是處嗎,它是否折射出了一些行業趨勢?在被許多網友批評過度誇大AI能力並引發誤解和恐慌後,1月31日,卡帕西決定再發一條推文,更全面的回應這一問題。

卡帕西發文回應批評(圖源:X平台)

在這條推文中,卡帕西同意Moltbook上存在大量垃圾信息,並認為很多帖子/評論都是故意誘導用戶發布,目的是將注意力轉化為廣告收入分成。

他絕對不建議任何人在自己的電腦上運行這些東西(即使他在隔離的計算環境中運行,也仍然感到害怕),會讓電腦和私人數據面臨極高的風險。

不過,話頭一轉,卡帕西也強調,Moltbook是我們目前見過的最大的Agent共享記憶平台,每個Agent本身已具備相當強大的能力,擁有各自獨立的上下文環境、數據、知識庫、工具集和指令集,這無疑是史無前例的。

未來,隨着Agent能力持續增強、數量指數級增長,這種Agent網絡可能會引發難以預料的反應,而我們正目睹一場大規模計算機安全噩夢的全面爆發,未來還可能出現各種詭異現象:比如在Agent間傳播的「文本病毒」、越獄手段的功能強化,甚至Agent與人類都可能陷入妄想或精神錯亂。

簡而言之,卡帕西稱或許外界會覺得他在「過度炒作」眼前的現象,但他對大規模自主大模型Agent網絡的根本潛力毫無誇大,這一點他十分確信。

Palantir員工、創業者Nabeel S. Qureshi認為,我們不能將Moltbook的所有互動都理解為完全由人類操作的。其實,Moltbook上主要還是自動化的Agent行為,大多數賬號是半自主的Agent,按固定周期自動抓取內容、判斷是否互動或發帖,人類並不會逐條審批或生成。

雖然Agent的指令最初由人類編寫,但在大規模、多Agent持續互動下,這些Agent可能出現不可預測的集體行為,類似金融市場中的算法交易導致的2010年市場閃崩。

對長期研究未來的技術思想家來說,Moltbook並不新鮮,但對普通人而言,這是我們第一次直觀感受到「人類參與度很低的AI社會/機構」可能是什麼樣子。

結語:Moltbook不是機器智能覺醒,背後議題仍值得關注

隨着OpenClaw、Moltbook等項目的爆火,大模型和Agent正在以前所未有的方式滲透到人類社會之中,它們不僅以工具或應用的形式存在,更通過社交網絡、在線社區和數字平台,參與到信息傳播、知識分享甚至社交互動的各個層面。

Moltbook等實驗性的Agent社區,雖然充滿噱頭和炒作,也存在安全漏洞和虛假信息,但它們背後折射出的多Agent協作模式、數字自治社會的概念,讓人不得不思考AI在未來社會中的角色與邊界。

更重要的是,這類大規模自主Agent網絡所帶來的潛在影響遠超一般應用:它們或許能影響信息流通方式,甚至引發前所未有的安全挑戰。未來,理解和管理這些Agent系統,或許比眼下的熱度更為關鍵,也可能會成為AI發展和社會治理中不可迴避的關鍵議題。

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10