GB200卡關瓶頸主角換人 散熱元件台廠新機會 智慧應用 影音
Dell
DForum0115

GB200卡關瓶頸主角換人 散熱元件台廠新機會

  • 李立達台北

AI伺服器水冷散熱商機,元鈦董事長陳茂欽(中)、總經理朱佳建(右)、業務協理王毅光認為這是台廠的菜。李立達攝
AI伺服器水冷散熱商機,元鈦董事長陳茂欽(中)、總經理朱佳建(右)、業務協理王毅光認為這是台廠的菜。李立達攝

NVIDIA的GB200何時出貨,萬眾矚目,被點名可能影響出貨原因在於散熱,然散熱業者指出,原本被視為出貨瓶頸的快接頭(QCD)已不缺,反倒是冷卻液分配裝置(Cooling Distribution Unit;CDU)供貨時間較長,此也帶來台廠新機會。

市場傳出,GB200機櫃恐將延後1季到2025年第2季以後才會放量,然何謂「放量」,並無明確定義。廣達、鴻海等ODM廠都強調量產規劃時間不變,卻未明確說明量產有多少。

市場傳出,GB200機櫃恐將延後1季到2025年第2季以後才會放量。李建樑攝

市場傳出,GB200機櫃恐將延後1季到2025年第2季以後才會放量。李建樑攝

眾說紛紜下,目前業界普遍共識是,2025年GB200出貨強勁可期,且量會逐季拉升。

至於GB200卡關瓶頸?之前台積電的CoWoS封裝狀況已解,如今有人點名是散熱元件問題,也有人提及,是連接器出現問題,亦傳出是NVLink相關零件卡關。若以散熱元件來說,相關業者指出,並非技術無法趕上,而是產能因素吃緊。

之前曾經傳出,快接頭缺貨是瓶頸,然隨著國際大廠量能拉升,且NVIDIA開始出面認證更多廠商,也解決供貨吃緊問題,業界人士笑稱,現在快接頭滿街都是,反而供貨較吃緊的是CDU。

延伸報導專講堂:AI基礎建設:冷卻技術

業界指出,CDU的供貨時間約達4~6個月,甚至更久,主要因為其中的零組件,包括板式熱交換器、馬達、流量計供貨時間都長,再加上組裝測試,因此時間拉長。

另一說法是,2家國際CDU大廠:Vertiv、BOYD的上游供應商重疊,雙方在搶產能,導致供貨不足。

因應市場急迫需求,國內散熱解決方案商元鈦正在擴廠。元鈦原本總部設在林口,將遷移至汐止,現有的林口將全部改為生產線,主要生產CDU與Sidecar,元鈦董事長陳茂欽指出,規劃在汐止另外設廠,預計2025年完工,為新產品預作準備。

元鈦目前已經量產1,300 kW的CDU,新款的2,500 kW的CDU正在打樣,將送到NVIDIA認證,預計2025年通過認證後量產。元鈦總經理朱佳建指出,1,300 kW主要是因應NVL72需求,其單機櫃的散熱需求就達到120~130 kW。

元鈦經營團隊早在1997年就在美商愛美達(現在的BOYD)從事散熱產業,爾後轉戰美商Vette倍億淂科技,屬於液冷散熱老前輩。2022年創立元鈦後,協助華碩、廣達打造國家高速網路資料中心的水冷散熱系統,2024年6月緯創宣布參與元鈦現增。

陳茂欽表示,相對於美商,NVIDIA揭開的這場液冷散熱比賽,對元鈦很有利,他說,美國廠商都是老同事,然美廠開發速度沒有台廠靈活,當大家都在抱怨NVIDIA迭代太快時,這反而是元鈦的菜,因為台廠習慣速度快,相較同業,元鈦leadtime更短。

朱佳建指出,這2年的主流會是sidecar,因為客戶案場沒有足夠的冰水來源,除非重新建置管線,卡在機房無法停工,因此會用sidecar因應,目前都會是1櫃NVL 72對2櫃sidecar或2櫃NVL 72對3櫃sidecar設計。

朱佳建表示,現階段頻傳GB200機櫃過熱,追根究底是晶片封裝設計問題。因其封裝接合導熱效果不佳,晶片內溫度偏高,只好提高冷卻設備風量。現階段GB200的機櫃散熱需求為120~130 kW,2025年推出的B300,甚至可能會直接跳到150 kW,水冷勢在必行。

責任編輯:陳奭璁