
有一批快速崛起的初創公司,商業模式是向雲廠商租賃算力、再轉售給客戶,此前一分錢都沒有投入自有 AI 芯片。如今它們走到了十字路口:越來越難拿到足夠算力服務客戶,一部分企業開始自行採購芯片,這很可能徹底改寫它們的商業成本結構。
算力供給緊張,也迫使這類初創企業轉向數十家規模更小的新雲廠商(neocloud)尋找資源。相比微軟 Azure、AWS、谷歌雲這類超大規模雲廠商,新雲廠商通常還有更多富餘算力。知名推理服務商 Fireworks 遭遇黑客攻擊一事,也凸顯了這條路線暗藏的風險。
知情人士稱,這次黑客攻擊,根源是 Fireworks 所使用的一家小型雲廠商安全防護薄弱。攻擊事件發生後,Fireworks 的部分客戶開始考慮更換服務商。
Fireworks 這類公司被稱為推理服務商:它們面向需要芯片運行 AI 模型的客戶提供服務,這個運行過程就叫推理。它們原本不持有芯片、不運營數據中心,重心放在開發軟件,幫助客戶優化 AI 模型的運行效率。
這類企業增長極快。Fireworks 稱,公司 7 月年化營收突破 10 億美元,按年一年前增長 5 倍。The Information 在 9 月報道,Fal 等同行的營收增速短短幾個月就實現翻倍。Fireworks 最新估值 175 億美元,在這批推理服務商中估值最高。
但算力越來越難獲取,可能拖累整個賽道的高速增長。
部分雲廠商已經不太願意把算力租給競爭對手。知情人士透露,CoreWeave 今年早些時候決定停止向 Baseten 出售算力。消息稱,CoreWeave 在今年 3 月推出了自家推理服務,不願把算力資源供給競品。但一名接近 Baseten 的人士否認 CoreWeave 削減了對 Baseten 的算力供給。
CoreWeave 發言人表示:「我們和各家推理服務商保持良好合作,不少都是我們的合作伙伴。只要適配它們的商業模式,就會採購 CoreWeave 的服務,我們也樂於支持。」
雲廠商 digtalOcean 的 CEO Paddy Srinivasan 說,他會優先服務有真實終端需求的客戶,而不是轉手倒賣算力的公司:「老實說,有大量客戶基於我們的平台開發軟件,需求旺盛。」digtalOcean 運營自有數據中心。
一些推理服務商的應對方案是廣泛對接大量小型雲廠商。Modal 的 CEO Erik Bernhardsson 在採訪中介紹,公司成立前四年,合作方主要是各大超大規模雲廠商和少數新雲;後來無法從大廠拿到想要數量、價格的英偉達 Blackwell 芯片,於是過去一年新增了 30 家新雲合作伙伴。Modal 依然和超大規模雲廠商合作,但通常從它們那裏採購其他型號芯片。
部分雲計算行業高管認為,如果算力需求回落、或是大廠切斷供給,沒有自有硬件的推理服務商就會陷入被動。
Iren 公司首席商務官 Kent Draper(Iren 自建數據中心)評價:「推理服務商就像是 GPU 世界裏的 WeWork。WeWork 簽下長期辦公場地租約,再短期轉租。行情好的時候一切順暢,一旦需求枯竭或者孖展斷流,模式就難以為繼。大家現在看到了垂直整合的價值。」
別無選擇
部分推理服務商認為,只能投入資金自建硬件。Fal 主打視頻、圖像 AI 模型託管,今年 7 月入職、負責搭建數據中心戰略的 Raghu Rao 表示,Fal 近期已經開始採購英偉達芯片,部署在租賃的數據中心內。Fal 本月早些時候完成 16.5 億美元孖展,這筆資金將用來擴充算力,包括採購 GPU、向 AWS 租用機房資源。Rao 稱 Fal 還在擴招數據中心相關團隊。Fal 採購硬件的計劃此前未曾對外報道。
「隨着業務規模暴漲,我們既需要租賃算力,也必須持有自有硬件。」Rao 說。
知情人士透露,Fal 還向投資人表示,有意通過舉債來支撐硬件採購。Rao 拒絕對債務孖展的可能性置評。
近幾個月,多家推理服務商已經和貸款機構、中介洽談借款,用來和新雲廠商簽訂算力採購合同。知情人士稱,這些企業希望使用債權資金,而不是消耗風投股權孖展款,來鎖定算力資源。
另一邊,Together 從去年就開始採購自有硬件,The Information 在 3 月報道,計劃 2026 年底擁有 250 兆瓦自有數據中心容量。知情人士稱,Baseten 也計劃採購英偉達 GPU,部署在由自己運營管理的數據中心。
CoreWeave 自身也經歷了類似轉型:此前大多運營別人名下的數據中心,去年官宣自建園區,認為這是掌控硬件資源最好的方式。
不過,並非所有推理服務商都認為必須持有硬件。知情人士稱,Fireworks 管理層向投資人表示,採購實體芯片、建設運營數據中心屬於同質化大宗商品業務;Fireworks 的護城河是開發可以高速運行模型的軟件,這一點更難複製。另一位知情人士稱,Fireworks 目前沒有采購硬件的計劃。
知情人士表示,Modal 也向投資人表達意向,計劃採購更多自有硬件投入數據中心。Bernhardsson 在採訪中說,公司會想盡一切辦法拿到所需算力,但他並不認為差異化來自持有硬件 —— 這一點和 Iren 等硬件自建方對 Modal 這類推理服務商的批評一致。
「硬件層並不是創造大量價值的地方。說到底,你只是買芯片再轉手提供算力。」Bernhardsson 說,「所以我們聚焦軟件層,這纔是我們持續創造最大價值的地方。」