快科技7月28日消息,據摩根士丹利報告,谷歌正在設計一款名為Frozen V2的新一代TPU芯片,目標是將SRAM直接集成到硅片上,從而擺脫對台積電CoWoS封裝技術的依賴。
SRAM是目前AI芯片中速度最快的緩存,負責存儲AI模型運行時頻繁調用的數據,傳統做法是把SRAM做成獨立芯片,再通過CoWoS封裝技術與計算單元連接在一起,但CoWoS封裝工藝複雜、成本高,而且封裝環節會增加數據傳輸的延遲。
Frozen V2的思路是把SRAM直接做在計算單元的硅片上,省去封裝環節。

這樣一來,數據不需要在芯片之間傳輸,速度更快,延遲更低,谷歌希望通過這種方式為Gemini模型量身定製芯片,專門優化AI推理性能。
不過這種方式也有代價,每次AI模型有重大升級時,都需要重新設計芯片,芯片製造商也要為每一輪生產調整設備。
AI芯片製造商Taalas今年早些時候也採用了類似方法,將神經網絡權重直接集成到硅片上。
摩根士丹利預計,Frozen V2可在2027年進入早期生產,2028年量產,合作伙伴方面,Marvell可能是候選之一,但目前尚未確認。
