《熱點透視》AI成本高昂,迫使企業對科技支出保持克制

路透中文
06/03
《熱點透視》AI成本高昂,迫使企業對科技支出保持克制

本文作者Robyn Mak為路透熱點透視專欄作家,以下內容僅代表其個人觀點

路透香港6月3日 - 如果有一個趨勢足以讓全球企業的財務部門感到恐懼,那就是「tokenmaxxing」(將token用量拉到極限)。從亞馬遜AMZN.OMeta Platforms META.O,各家公司都在積極推動員工擁抱人工智能,從而帶動了對模型和應用的需求激增。這一轉變使得原本可預測的IT預算變得極其不穩定、難以合理解釋。一場調整正在逼近。

目前企業正陷入一場競賽,力圖推動對「token」(即大型語言模型處理和生成的文本或數據單位)的廣泛使用。像編程代理這樣的工具——它們通常在後台運行,並與模型進行持續頻繁的交互——會消耗大量token。這促使從ChatGPT的開發者OpenAI到微軟MSFT.O旗下的GitHub等AI公司,在月度或年度訂閱費用之外,引入按使用量收費的模式。

額外的成本給首席財務官們帶來了新的難題。Gartner的調查發現,受訪的高管中有四分之三預計今年科技預算將增加,近一半的人估計增幅會達到兩位數百分比。牛津經濟研究院(Oxford Economics)估算,其中相當一部分將用於人工智能領域——到2035年,AI支出將佔企業整體技術支出的五分之一以上,而如今這一比例還不到4%。

圖:全球在AI代理和模型方面的支出正在上升

這對OpenAI和Anthropic來說是個好消息,兩家公司都在為重磅首次公開募股(IPO)做準備。根據Gartner的數據,到2027年,全球在模型和AI軟件(包括兩家公司推出的聊天機器人、助手和代理)上的支出有望超過6800億美元,是去年的兩倍多。

不過,這種揮霍式的支出對客戶來說似乎難以長期維持。據金融時報報道,亞馬遜員工在使用AI工具處理一些其實沒有必要的任務時,導致額外成本增加,從而人為推高了token的消耗,一名高管因此懇請道:「請不要為了用AI而用AI」。

對高管來說,挑戰主要有兩個方面。首先,與相對穩定的軟件訂閱不同,基於使用量計費的token費用難以跟蹤和預測。優步的首席技術官在4月承認,公司已經超出了全年AI預算;據The Verge報道,就連微軟也因成本飆升而限制工程師使用Claude Code的權限。

許多公司都面臨同樣的困境:一項調查顯示,71%的企業去年都出現了AI成本超支。與此同時,數據管理、基礎設施、網絡費用以及其他支出也在不斷攀升,使得財務團隊對AI支出的建模變得更加複雜。

此外,這些技術投資的回報仍然不明朗。許多公司仍處於AI試驗階段,但微軟首席執行官納德拉最近警告稱,「IT預算將不得不根據業務成果進行重塑」。這些成果將包括營收增長、持久的生產率和效率提升,以及成本削減。然而,早期的零散數據卻令人深感憂慮:IBM去年對全球2000名首席執行官的調查發現,過去幾年中,只有四分之一的AI項目實現了預期的投資回報;波士頓諮詢的另一項調查顯示,60%的企業沒有從AI中產生任何實質性價值。隨着在某些任務中運行AI代理的每日token成本超過相當的人力成本,高管們將不得不收緊支出,並轉向實現可持續收益。

圖:在某些任務中,人力成本比AI代理更低

所有這些都表明,企業在不久的將來將加強財務紀律。其中一個選擇是用更便宜的模型來完成較不復雜的任務,比如中國阿里巴巴9988.HK及其他公司推出的開源模型。這將需要對預算進行監控、設限和配置。這種轉變可能類似於企業在從本地服務器全面轉向遠程算力之後,逐步學會控制雲計算開支的過程。就在2022年,還有估計認為雲計算支出中有32%被浪費;而到2025年,這一比例已降至27%。不過有趣的是,由於AI的推動,雲資源浪費如今又開始上升——這是五年來的首次增加。

圖:企業稱雲計算支出中的浪費正在上升

不過,token成本的未來仍然是一個巨大的未知數。算力供給緊張,尤其是在美國,數據中心建設周期漫長、電力受限以及其他障礙重重,這意味着需求可能會持續超過供給。

與此同時,芯片、軟件和硬件的進步意味着推理成本將持續下降。例如,在具備AI能力的台式機、筆記本電腦和手機上運行開源模型,已經比依賴基於雲的專有模型便宜得多。此外,在充裕孖展的支持下,一些AI初創公司已經對token成本進行了補貼。不過,從長期來看,這種模式似乎難以持續。

因此,一場AI成本緊縮似乎不可避免。對OpenAI及其競爭對手而言,好的一面在於,即便token價格下降、用戶開始控制成本,這也不一定會以犧牲AI的採用為代價。雲計算的發展路徑表明,一個更可持續的商業模式是可以形成的。即便如此,控制AI支出的競賽才啱啱開始。(完)

Global spending on AI agents and models is rising https://www.reuters.com/graphics/BRV-BRV/gkplknadnvb/chart.png

Humans are cheaper than AI agents for some tasks https://www.reuters.com/graphics/BRV-BRV/zdpxgmkxyvx/chart.png

Companies are reporting higher levels of wasted cloud spending https://www.reuters.com/graphics/BRV-BRV/egvberqobpq/chart.png

(編審 張荻)

((patrick.zhang@thomsonreuters.com;))

應版權方要求,你需要登入查看該內容

免責聲明:投資有風險,本文並非投資建議,以上內容不應被視為任何金融產品的購買或出售要約、建議或邀請,作者或其他用戶的任何相關討論、評論或帖子也不應被視為此類內容。本文僅供一般參考,不考慮您的個人投資目標、財務狀況或需求。TTM對信息的準確性和完整性不承擔任何責任或保證,投資者應自行研究並在投資前尋求專業建議。

熱議股票

  1. 1
     
     
     
     
  2. 2
     
     
     
     
  3. 3
     
     
     
     
  4. 4
     
     
     
     
  5. 5
     
     
     
     
  6. 6
     
     
     
     
  7. 7
     
     
     
     
  8. 8
     
     
     
     
  9. 9
     
     
     
     
  10. 10