科技愛好者在家中裝配高性能 AI 主機,隨之而來的是棘手的散熱難題華盛頓州貝爾維尤一處安靜社區,加里・弗萊克的現代住宅地下室,佈置得像一間功能齊全的男士休閒空間:大屏顯示器與數字投影儀中間擺着一張舒適沙發,還有一台動感單車划船機。但這間屋子真正的重頭戲,是一台造型酷似巨型拼裝模型的定製主機,機架上懸掛七塊英偉達高性能顯卡。
弗萊克曾任職微軟,也是多家初創公司創始人。他組裝這台機器,用於基於數 TB 腦電圖數據訓練定製 AI 模型,腦電圖用來記錄大腦電信號,該項目所屬的創業項目他現已不再跟進。
訓練 AI 模型,他本可以向雲服務商租用數據中心的工業級 GPU 算力。但他說,用折扣配件自己裝機要划算得多,整套設備總成本不到 6000 美元,遠低於每月付給亞馬遜雲或者微軟雲的費用。
即便算上電氣改造、全新暖通空調系統的開銷(合計 1‑2 萬美元),用來給地下室散熱,抵消 AI 主機巨大發熱量,自己裝機依舊划算。 「我想要算力握在自己手裏,」 弗萊克說,他計劃未來數月重新啓用這台機器開展新項目,「我不想租用別人的算力。」
閣樓、地下室、家庭辦公室本地跑 AI 負載,已經成為這一輪 AI 熱潮之下出人意料的現象。主流 AI 大廠,都在堆滿數萬片 GPU 的大型遠端數據中心訓練、運行大模型,滿足海量算力需求。
加里・弗萊克家中的 GPU 設備與此同時,一股本地 AI 浪潮正在興起。大量小型開發者、硬件發燒友出於成本、隱私、使用便利,選擇在自己的家用設備上跑 AI。部分信奉自由理念的開發者認為,本地 AI 可以避免未來政府限制、切斷自己使用 AI 技術的權限。OpenClaw 這類本地智能體平台,可以直接調用本機應用、本地文件完成複雜任務,也助推了這股風潮。
有些時候,家用 AI 設備純粹就是很酷的家居景觀。上個月,Shopify 首席執行官託比・呂特克曬出家裏三組豎直服務器機櫃,機櫃纏繞粉色 LED 燈帶,在社交平台走紅。設備包含一台戴爾主機,搭載英偉達高端顯卡,廠商稱之為 「終極桌面超算」。呂特克還巧妙解決了設備散熱難題。
家用 AI 主機興起,對硬件廠商來說是意外利好。Mac mini、Mac Studio 在智能體開發者群體中大受歡迎,銷量走高;戴爾也表示,家用 AI 愛好者市場迎來爆發式增長。
戴爾高級傑出工程師馬克・哈蒙斯稱:「這是時代風潮。今年 OpenClaw 問世之後,相關硬件需求直接暴漲。」
在家中放置高性能主機並不是新鮮事,「家庭實驗室(homelab)」 愛好者社群早已在 Discord、Reddit 等平台蓬勃發展。21 世紀初,發燒友在家搭建服務器,掛載海量硬盤,存放下載的 MP3 音樂與視頻。後來加密貨幣挖礦熱潮,又帶動家用高性能 GPU 需求。
希滕・沙阿就是當年的加密貨幣玩家。2020 年,他在家中服務器機架裝上八塊 GPU 挖以太坊。如今,軟件創業公司 Crazy Egg 的 CEO 沙阿,轉向 AI 開發,大幅擴充加州雷德伍德肖爾斯家中的算力軍備,一共 18 台設備,其中包含 14 台 Mac mini 與 Mac Studio。
沙阿表示,本地算力讓他可以掌控自己開發的網站優化軟件運行表現。雲大模型時常宕機、卡頓已經是常態。「每當雲端更新大模型,接連好幾天系統都會不穩定,故障頻發。」
但代價是居住舒適度大打折扣。全部算力設備擺在家庭辦公室,機器散熱讓室內溫度經常飆升至華氏 85 度(約 29.4 攝氏度),他經常只能穿短褲待在房間。「我該裝一台空調。」 沙阿說道。
不少本地 AI 發燒友已經成為圈內網紅。一位居住在奧斯汀的 YouTube 博主,要求匿名,對外只用頻道名 Digital Spaceport。他在車庫搭建了自己口中的 「家庭數據中心」,硬件包含五塊 AMD 顯卡,外加大量網絡、存儲設備。目前他在本機運行國內開源大模型通義千問 Qwen‑3.8‑27B,用來剪輯、分析自己的 YouTube 視頻。
另一位波蘭科技顧問兼 YouTube 博主,同樣匿名,使用頻道 ID 0xSero。隨着硬件越買越多,他不得不把 AI 主機在家中四處挪位置。四塊英偉達 6000 顯卡最初放在家庭辦公室,但噪音巨大、發熱量極高,房間空氣被烘乾,他認為這是去年自己生病的誘因。於是整套設備被搬到閣樓。
0xSero 最早也使用雲端 AI 模型,2024 年末轉折點到來:AI 編程工具 Cursor 漲價。「那一刻我下定決心,要搞本地 AI。」
他堅持一個觀點:AI 系統的所有權、控制權應該掌握在用戶手上,未來有可能出現政府管控、限制 AI 訪問權限。「我真心喜歡 AI,我希望能夠持續擁有使用它的權利。」