AI推理初创企业悄然自研采购芯片

环球市场播报
3 hours ago

  有一批快速崛起的初创公司,商业模式是向云厂商租赁算力、再转售给客户,此前一分钱都没有投入自有 AI 芯片。如今它们走到了十字路口:越来越难拿到足够算力服务客户,一部分企业开始自行采购芯片,这很可能彻底改写它们的商业成本结构。

  算力供给紧张,也迫使这类初创企业转向数十家规模更小的新云厂商(neocloud)寻找资源。相比微软 Azure、AWS、谷歌云这类超大规模云厂商,新云厂商通常还有更多富余算力。知名推理服务商 Fireworks 遭遇黑客攻击一事,也凸显了这条路线暗藏的风险。

  知情人士称,这次黑客攻击,根源是 Fireworks 所使用的一家小型云厂商安全防护薄弱。攻击事件发生后,Fireworks 的部分客户开始考虑更换服务商。

  Fireworks 这类公司被称为推理服务商:它们面向需要芯片运行 AI 模型的客户提供服务,这个运行过程就叫推理。它们原本不持有芯片、不运营数据中心,重心放在开发软件,帮助客户优化 AI 模型的运行效率。

  这类企业增长极快。Fireworks 称,公司 7 月年化营收突破 10 亿美元,同比一年前增长 5 倍。The Information 在 9 月报道,Fal 等同行的营收增速短短几个月就实现翻倍。Fireworks 最新估值 175 亿美元,在这批推理服务商中估值最高。

  但算力越来越难获取,可能拖累整个赛道的高速增长。

  部分云厂商已经不太愿意把算力租给竞争对手。知情人士透露,CoreWeave 今年早些时候决定停止向 Baseten 出售算力。消息称,CoreWeave 在今年 3 月推出了自家推理服务,不愿把算力资源供给竞品。但一名接近 Baseten 的人士否认 CoreWeave 削减了对 Baseten 的算力供给。

  CoreWeave 发言人表示:“我们和各家推理服务商保持良好合作,不少都是我们的合作伙伴。只要适配它们的商业模式,就会采购 CoreWeave 的服务,我们也乐于支持。”

  云厂商 digtalOcean 的 CEO Paddy Srinivasan 说,他会优先服务有真实终端需求的客户,而不是转手倒卖算力的公司:“老实说,有大量客户基于我们的平台开发软件,需求旺盛。”digtalOcean 运营自有数据中心。

  一些推理服务商的应对方案是广泛对接大量小型云厂商。Modal 的 CEO Erik Bernhardsson 在采访中介绍,公司成立前四年,合作方主要是各大超大规模云厂商和少数新云;后来无法从大厂拿到想要数量、价格的英伟达 Blackwell 芯片,于是过去一年新增了 30 家新云合作伙伴。Modal 依然和超大规模云厂商合作,但通常从它们那里采购其他型号芯片。

  部分云计算行业高管认为,如果算力需求回落、或是大厂切断供给,没有自有硬件的推理服务商就会陷入被动。

  Iren 公司首席商务官 Kent Draper(Iren 自建数据中心)评价:“推理服务商就像是 GPU 世界里的 WeWork。WeWork 签下长期办公场地租约,再短期转租。行情好的时候一切顺畅,一旦需求枯竭或者融资断流,模式就难以为继。大家现在看到了垂直整合的价值。”

  别无选择

  部分推理服务商认为,只能投入资金自建硬件。Fal 主打视频、图像 AI 模型托管,今年 7 月入职、负责搭建数据中心战略的 Raghu Rao 表示,Fal 近期已经开始采购英伟达芯片,部署在租赁的数据中心内。Fal 本月早些时候完成 16.5 亿美元融资,这笔资金将用来扩充算力,包括采购 GPU、向 AWS 租用机房资源。Rao 称 Fal 还在扩招数据中心相关团队。Fal 采购硬件的计划此前未曾对外报道。

  “随着业务规模暴涨,我们既需要租赁算力,也必须持有自有硬件。”Rao 说。

  知情人士透露,Fal 还向投资人表示,有意通过举债来支撑硬件采购。Rao 拒绝对债务融资的可能性置评。

  近几个月,多家推理服务商已经和贷款机构、中介洽谈借款,用来和新云厂商签订算力采购合同。知情人士称,这些企业希望使用债权资金,而不是消耗风投股权融资款,来锁定算力资源。

  另一边,Together 从去年就开始采购自有硬件,The Information 在 3 月报道,计划 2026 年底拥有 250 兆瓦自有数据中心容量。知情人士称,Baseten 也计划采购英伟达 GPU,部署在由自己运营管理的数据中心。

  CoreWeave 自身也经历了类似转型:此前大多运营别人名下的数据中心,去年官宣自建园区,认为这是掌控硬件资源最好的方式。

  不过,并非所有推理服务商都认为必须持有硬件。知情人士称,Fireworks 管理层向投资人表示,采购实体芯片、建设运营数据中心属于同质化大宗商品业务;Fireworks 的护城河是开发可以高速运行模型的软件,这一点更难复制。另一位知情人士称,Fireworks 目前没有采购硬件的计划。

  知情人士表示,Modal 也向投资人表达意向,计划采购更多自有硬件投入数据中心。Bernhardsson 在采访中说,公司会想尽一切办法拿到所需算力,但他并不认为差异化来自持有硬件 —— 这一点和 Iren 等硬件自建方对 Modal 这类推理服务商的批评一致。

  “硬件层并不是创造大量价值的地方。说到底,你只是买芯片再转手提供算力。”Bernhardsson 说,“所以我们聚焦软件层,这才是我们持续创造最大价值的地方。”

Disclaimer: Investing carries risk. This is not financial advice. The above content should not be regarded as an offer, recommendation, or solicitation on acquiring or disposing of any financial products, any associated discussions, comments, or posts by author or other users should not be considered as such either. It is solely for general information purpose only, which does not consider your own investment objectives, financial situations or needs. TTM assumes no responsibility or warranty for the accuracy and completeness of the information, investors should do their own research and may seek professional advice before investing.

Most Discussed

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10