智通財經APP獲悉,亞馬遜(AMZN.US)周三表示,其雲計算部門已開發出專門用於冷卻下一代英偉達(NVDA.US)圖形處理器(GPU)的硬件設備——這些GPU被廣泛用於人工智能相關的計算任務。英偉達的GPU為生成式人工智能的爆發提供了強大動力,但它們消耗的能源極為龐大。這意味着,使用這些處理器的公司必須配備額外的設備來進行冷卻。
亞馬遜曾考慮建設能夠廣泛部署液冷系統的數據中心,以充分發揮這些高功耗英偉達GPU的效能。但亞馬遜雲服務(AWS)計算與機器學習服務副總裁Dave Brown表示,這一過程耗時太久,而且市面上可用的設備也無法滿足需求。Dave Brown表示:「它們要麼佔用過多的數據中心地面空間,要麼顯著增加用水量。雖然其中一些解決方案在其他服務提供商的小規模場景中可能有效,但它們根本沒有足夠的液冷能力來支持我們的規模。」
因此,亞馬遜工程師構思並開發了「列間換熱器」(In-Row Heat Exchanger,簡稱IRHX),這種設備可插入現有及新建的數據中心中。此前一代的英偉達芯片使用傳統空氣冷卻方式已足夠。
Dave Brown表示,客戶現在可以通過名為P6e的計算實例使用這一AWS服務。這些新系統配合英偉達設計的高密度計算硬件使用。英偉達的GB200 NVL72將72顆英偉達Blackwell GPU安裝於單個機架中,並通過互聯方式協同工作,以訓練和運行大型AI模型。
亞馬遜此前已推出多種自主研發的基礎設施硬件。該公司開發了用於通用計算和人工智能的定製芯片,並設計了自有的存儲服務器和網絡路由器。通過運行自主硬件,亞馬遜對第三方供應商的依賴減少,從而有助於提高盈利能力。在第一季度,AWS交出了自2014年以來最佳運營利潤率的成績,該業務部門也貢獻了亞馬遜的大部分淨利潤。