Anthropic早期投資人打造AI服務器「算力電網」

環球市場播報
3小時前
安傑尼・米達

  安傑尼・米達(Anjney Midha)曾是安德森・霍洛維茨(a16z)普通合夥人,也是 Anthropic 的早期個人投資人。據我的同事凱蒂報道,他終於準備公開披露其備受期待的 AI 基礎設施創業項目,此前他曾試圖為此募集超 100 億美元資金。

  米達表示,這家名為 AMP 的新公司正在打造一張 「AI 算力電網」,其模式類似於由中央電網統一調度供電的體系,將徹底改變 AI 開發者獲取稀缺服務器資源的方式。(AMP 這一名稱恰取自電流計量單位 「安培」。)

  在英偉達 GTC 大會上與米達深入交流後,我意識到他正在推進一個醞釀數年的理念:AI 算力資源應像公共電力一樣售賣,從而實現更低成本、更廣覆蓋。

  OpenAI 首席執行官山姆・奧特曼上周在貝萊德基礎設施峯會上也談及這一構想,不過他表示 OpenAI 自身會成為這類資源的供給方。

  無論如何,這都將與當前 AI 基礎設施的銷售模式形成巨大轉變!

  在安德森・霍洛維茨任職期間,米達就已搭建了 AMP 的雛形項目 ——Oxygen 算力集群,該項目彙集英偉達芯片供旗下投資組合公司共享使用。由於擔憂 AI 算力資源正快速向少數手握大量 GPU 的企業集中,他決定將該項目獨立出來,成立 AMP 公司。

  目前,英偉達圖形處理器(GPU)基本通過長期租賃(預留實例)或按小時租用(競價實例)兩種方式供應,米達認為這種分配方式從根本上缺乏效率。

  正如一個世紀前電網成為企業共享稀缺電力的關鍵設施,AMP 希望為有服務器需求的 AI 開發者提供同樣的共享模式。米達的設想是,AI 開發者無需各自採購、運維基礎設施 —— 無論是向雲廠商或芯片企業租賃還是購買 —— 轉而使用一套更高效的共享系統。

  他不願透露 AMP 的其他合作方,無論是服務器供應商還是算力使用方,但表示頂尖研究實驗室與雲廠商已參與該項目。

  他並未披露 AMP 的商業模式。與自建並運營數據中心不同,AMP 將推出一款應用,連接服務器供給方與有需求的 AI 開發者。米達將其比作電力系統中的獨立系統運營商 —— 這類機構未必擁有底層基礎設施,卻負責統籌供需調度。

  為此,AMP 正在開發一套軟件,用於在 AI 開發者間分配共享算力池,並調度不同計算任務的運行時間與節點。但 AMP 不會按小時出租 GPU,也不直接向 AI 開發者收取費用。

  不止於 GPU

  值得關注的是,AMP 計劃支持開發者租用各類 AI 硬件。米達未透露谷歌張量處理單元(TPU)是否會納入其中,但考慮到 AMP 創始團隊包含曾負責谷歌大型基礎設施內部管理系統的工程師,其具備搭建相關體系的能力合情合理。(據此前報道,谷歌已採取實際舉措,向谷歌雲以外的 AI 開發者開放 TPU 使用。)

  目前市場上也有整合多方 AI 服務器的企業,如 Together AI 與英偉達自身(後者曾嘗試搭建閒置 GPU 交易市場),但 AMP 的模式難以簡單對標。

  米達表示:「你必須成為中立、獨立的主體,制定統一標準,允許所有參與方接入。」

  AMP 計劃於今日晚些時候發布一份使命宣言,旨在吸引更多企業加入這張算力電網。我十分好奇最終會有哪些機構參與其中。

  當前,AI 企業普遍將服務器資源視為戰略優勢,因此需要提供相應的經濟激勵,才能促使它們使用 AMP 系統或貢獻自有服務器。

  考慮到米達作為早期投資人與 Anthropic 的密切關聯,我傾向於認為 Claude 的開發方 Anthropic 會參與該項目。

  米達拒絕就公司資本結構置評,但表示過去數月已為該項目投入數億美元啓動資金。

  算力規模化難題

  米達創立 AMP 的靈感,源於他與 Anthropic 及其他初創企業的合作經歷,他親眼見證服務器對新模型研發的重要性。通過提升算力規模訓練新模型,是 AI 領域衆所周知的 「縮放定律」。

  但他表示,服務器規模化落地並非易事,因為開發者對算力設備的需求難以預測。

  「觀察算力負載就會發現,需求波動非常劇烈,」 他說,「一個團隊的負載模式通常是:大規模訓練任務引發峯值,隨後是周期性的研究與推理工作,極難預測。」

  這導致 AI 開發者要麼向雲廠商預留的服務器不足,要麼超額預留最終大量閒置。開發者還始終面臨兩難選擇:是用稀缺算力訓練更優模型,還是用其運行現有模型為客戶服務以創造收入。

  他說:「全球前沿研究領域中許多最高產的團隊,在使用算力這一最寶貴資源時,效率卻也是最低的。」

  在很多情況下,這會促使企業囤積 AI 服務器芯片 —— 即便大量設備處於閒置狀態。「這一點讓我深感困擾。」 他說道。

海量資訊、精準解讀,盡在新浪財經APP

責任編輯:郭明煜

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10