10月16日，在市場調(diào)研機(jī)構(gòu)TrendForce舉行的“AI時(shí)代半導(dǎo)體全局展開2025科技產(chǎn)業(yè)大預(yù)測(cè)”研討會(huì)上，TrendForce資深分析師龔明德表示，受益于云端服務(wù)供應(yīng)商（CSP）及品牌客戶對(duì)建設(shè)AI基礎(chǔ)設(shè)施需求強(qiáng)勁，2024年全球AI服務(wù)器（含搭載GPU、FPGA、ASIC等）出貨量將同比增長42%。2025年受云端業(yè)者及主權(quán)云等需求帶動(dòng)，出貨量有望再增長約28%，推動(dòng)AI服務(wù)器占整體服務(wù)器市場出貨量比例提高至近15%。中長期來看，預(yù)期在各種云端AI訓(xùn)練及推理應(yīng)用服務(wù)推進(jìn)下，2027年AI服務(wù)器占比有機(jī)會(huì)逼近19%。

觀察主要AI服務(wù)器芯片供應(yīng)商，龔明德認(rèn)為，英偉達(dá)（NVIDIA）表現(xiàn)一枝獨(dú)秀，其高階GPU 出貨量同比增長率將超過150%，其中以H200等H系列GPU為出貨主力產(chǎn)品。推動(dòng)英偉達(dá)在2024年的AI GPU市場的市占率接近90%。至于Blackwell GPU平臺(tái)將于明年上半年放量并成為主流，明年占比從4% 拉高至84%。

其他AI芯片供應(yīng)商如AMD、英特爾以及云端服務(wù)供應(yīng)商也在積極推動(dòng)自家的AI服務(wù)器芯片，將推升2025年AI芯片出貨增長動(dòng)能，進(jìn)一步帶動(dòng)AI芯片所需的先進(jìn)封裝（CoWoS）、高帶寬內(nèi)存（HBM）出貨量翻倍增長。先進(jìn)封裝技術(shù)也將從CoWoS-S 往CoWoS-L 邁進(jìn)，HBM也將由HBM3 轉(zhuǎn)向HBM3e，也將明顯提升液冷散熱方案滲透率。

TrendForce 分析師邱珮雯認(rèn)為，隨著運(yùn)算能力提升，液態(tài)冷卻解決方案在數(shù)據(jù)中心逐步重要。在英偉達(dá)Blackwell GPU新平臺(tái)帶動(dòng)下，GB200 NVL72 機(jī)柜方案的熱設(shè)計(jì)功耗（TDP）高達(dá)約140kW，須采用液冷方案才可有效解決散熱問題，預(yù)計(jì)初期將以水對(duì)氣（Liquid-to-Air，L2A）方式為主流。

除了英偉達(dá)之外，近年來谷歌、亞馬遜網(wǎng)絡(luò)服務(wù)公司（AWS）和微軟（Microsoft）等大型美系云端業(yè)者，也在布局液冷方案。其中CSP 自研高階ASIC 以谷歌最積極采用液冷方案，其TPU 芯片同時(shí)使用氣冷與液冷解決方案，其他CSP 仍以氣冷為主要散熱方案。中國產(chǎn)生方面，則以阿里巴巴采用液冷散熱解決方案最為積極。長期來看，全球?qū)SG 逐漸重視，將加速帶動(dòng)散熱方案由氣冷轉(zhuǎn)液冷形式。

隨著頭部廠商的積極推動(dòng)，預(yù)計(jì)AI 芯片的液冷散熱滲透率將從2024 年的11% 提升至2025 年的24%。