NVIDIA AI GPU排單最快到年底 伺服器鏈焦慮感急升 智慧應用 影音
vishay
Event

NVIDIA AI GPU排單最快到年底 伺服器鏈焦慮感急升

  • 陳玉娟台北

H100系統目前來自雲端大廠在手訂單,至年底遠超過10萬台。NVIDIA
H100系統目前來自雲端大廠在手訂單,至年底遠超過10萬台。NVIDIA

生成式AI應用百花齊放,所需龐大算力帶動高階AI GPU需求飆升,苦熬15年的NVIDIA終於強勢出線,全面翻轉傳統伺服器產業。

然伺服器相關供應鏈透露,A100/A800/H100供不應求,NVIDIA在手訂單超過10萬台,供貨以Google、微軟(Microsoft)等至少下單1萬~2萬台的雲端大客戶為優先,其他客戶現在下單,最快年底才能拿到,讓全球伺服器產業鏈深怕錯過AI 革命,焦慮感不斷上升。

繼A100/H100及針對中國市場而生的A800晶片後,NVIDIA近日再發布搭載GH200 Grace Hopper超級晶片與NVLink Switch System的DGX超級電腦。

GH200超級晶片使用NVIDIA NVLink-C2C晶片互連技術,將基於Arm架構的Grace CPU與 H100 Tensor核心GPU,採用台積電CoWos封裝技術結合,此舉不需使用傳統CPU至GPU的PCIe連接方式。

NVIDIA執行長黃仁勳特別強調,GH200超級電腦集NVIDIA各項最先進的加速運算和網路技術於一身,將全面加速擴大AI的發展。

相關供應鏈表示,粗估1台H100系統要價20萬美元,目前來自Google、Meta、微軟等雲端大廠的在手訂單,至年底遠超過10萬台,還不包括正在部署搶進生成式AI應用的全球數萬家企業與中國市場。

訂單不斷湧入,已現排隊人龍,連日來,黃仁勳與眾多客戶見面,不少相識多年的董事長、執行長級別親自下單,也還是拿不到貨,據了解,DGX H100系統最快年底才能交貨,深怕錯過生成式AI革命的伺服器產業鏈,焦慮感不斷擴大。

值得注意的是,NVIDIA為AI硬體產業鏈中,幾乎是唯一且立即受惠的業者,在超微(AMD)新平台尚未登場前,市場上完全沒有對手。供應鏈表示,NVIDIA獨享AI GPU大餅,供應鏈目前誰能分食仍不明。

事實上,隨著疫情紅利消退、歐美經濟持續疲弱,而中國市場未如預期復甦下,企業大力撙節成本,致使雲端資料中心採購力道明顯減弱,由Google等大削減支出顯見。

雖然AI伺服器需求強勁,但AI著重訓練應用,已排擠原來運算跟儲存的應用,在企業預算有限下,入手搭載NVIDIA AI GPU的高價系統,勢將縮減傳統伺服器建置。目前來看,AI GPU改變了伺服器產業生態,短期負面衝擊較大,欲帶動整體產業鏈獲利擴增,仍待觀察。

據IDC調研報告指出,2023年全球包括軟硬體與雲端相關AI系統支出上看1,540億美元,較2022年增加26.9%。產品內建AI技術的全球市場規模,預估2022~2026年的年複合成長率(CAGR)可達27%。

預測2026年全球AI系統支出將超過3,000億美元,包括金融、零售、專業服務、離散式製造、加工製造等產業都是AI系統支出重點產業。

責任編輯:朱原弘