ChatGPT與NVIDIA齊推動!AI生態火熱成供應鏈運轉動力
AI產業正處於蓬勃發展階段,尤其是以大語言模型為代表的生成式AI技術引起了廣泛關注。ChatGPT作為大語言模型的代表,其應用不僅可以應用於自然語言生成、語音識別等方面,還可以應用於供應鏈管理、產品設計等方面。因此,各大企業紛紛投入大量資源,研發自己的大語言模型,以推進AI技術的發展。這些應用背後,需要大量的晶片運算能量來支持,因此,相關的硬體技術也在逐步成熟。
OpenAI的ChatGPT引發了自然語言生成的熱潮,包含Google、Meta等各家封閉或開放的大型語言模型也紛紛出現,這些模型背後都依靠大量運算資源支撐。ChatGPT只是冰山一角,更多AI應用正在發展,它們同樣需要強大的運算能力才有辦法發展。
也因此,在需求的推動之下,AI資料中心所需要的大量基於FPGA的高速交換設備、資料中心內部需要的記憶體、處理器以及儲存空間所帶來的需求,為從原料、零組件、組裝代工廠、品牌廠、軟體服務廠等各式企業,到最終使用者享受到的AI服務,這些生態所組成的上、中、下游網路、相關的晶片供應鏈在景氣的谷底帶來回春的希望。
AI運算主角們
AI發展需要什麼樣的晶片?從模型訓練到推論,不同階段需要不同產品架構的幫助。現在最熱門的主要是資料中心這一段,但是在個人AIGC工具蓬勃發展之下,筆者也相信,終端的AI解決方案也同樣會發展起來。
先回到資料中心的部分,目前NVIDIA旗下主力A100、H100和針對中國市場的特製降規版A800、H800可以說是目前AI演算力的核心動力,以演算力佔比來看,NVIDIA佔了超過8成以上,在這場AI大賽中,NVIDIA無疑是最大的贏家,畢竟其研發超過十幾年的CUDA軟體環境仍是目前支援最完整的AI加速平台,Google、Amazon和微軟都採購了大量NVIDIA晶片來訓練模型,並且提供推論服務,藉此加速AI發展,即便 Google有自行發展的Tensor晶片,Amazon也同樣提供自行研發的Trainium晶片,成為可供客戶選擇雲端使用的運算能力來源之一,但這些只是作為補充方案,避免NVIDIA供貨不足的備援,而非主力。
AMD緊追其後,提出高階MI300與NVIDIA競爭,既有的MI200系列亦有一定比例的佔有率,但整體而言,其AI加速設備佔比有限,不過資料中心處理器在新的EPYC方案推出之後頗有斬獲。英特爾也有提供訓練與推論全套解決方案,但除處理器外並沒有太多獲得採用。
AMD和英特爾的AI加速方案多半都只是用作填補NVIDIA的高價和供應短缺帶來的市場空白,並非AI服務業者的首選,且因為軟體與生態不足,所以市占仍有限。AMD最新的MI300加速晶片,號稱可以提供較NVIDIA的H100更高的訓練效能,不過因為才剛推出目前市場接受度還不高,但是AMD的資料中心處理器在性能與成本上的綜合優勢吸引了一線雲端服務大廠的採用。英特爾則是提供了一整套包括訓練加速器,以及Xeon處理器方案,同時涵蓋雲端與終端,但因為雲端處理器的推出時程一再推遲,有不少客戶轉而使用AMD的處理器方案。
哪些供應鏈業者會受益?
構建AI資料中心不僅需要運算晶片,還需其他半導體元件,也就是供應鏈上的各個環節都會牽連到。
舉例來說,AI晶片的出貨動能主要來自NVIDIA,而NVIDIA的代工夥伴為台積電,其最新的H100與H800 AI加速器上面使用的記憶體為SK Hynix所提供的HBM3記憶體,三星與美光2023年稍晚也會開始供應HBM3記憶體產品。
然而雲端服務業者所建立的AI伺服器當然不會只有一大堆H100裸卡而已,而是必須組裝成伺服器,然後透過基於FPGA的高速網路互連,為了滿足AI訓練與推論工作的龐大運算需求,伺服器還必須要配備大量的處理器與記憶體及儲存空間。這也代表,因為PC市場衰退面臨業績急凍的處理器、記憶體與儲存設備業者,在資料中心業績方面可望迎來成長。
調研機構集邦科技就預估,在聊天機器人相關應用的成長加持下,2023年全球AI伺服器出貨量年成長達到8%,高於總體伺服器出貨量的1.31%。而到2026年的3年複合成長率,也將達到10.8%。
同時,我們也可以看到記憶體價格已經開始止跌回穩,伺服器業者,如緯創、緯穎第1季也都繳出好成績,台積電在景氣低迷的第1季業績仍有微幅成長,主要也是來自AI應用資料中心需求成長的貢獻。
AIGC也有機會帶動商務PC需求成長
AI不僅在雲端發展,終端也有龐大需求,特別是圖像AI工具,如Stable Diffusion,儘管許多人將其用於產生美女圖片,但在各種商業應用,如室內設計、廣告圖片生成和服裝虛擬代言人物等方面也將產生巨大商機,這些需求雖用不上H100之類的專業AI加速器,但需要大容量VRAM的娛樂顯示卡進行運算加速,畢竟使用配備大容量VRAM的顯示卡來算圖只需要幾秒鐘,如果純粹使用CPU運算,可能就需要花費數十倍以上的時間。因此,未來這些需求可能為娛樂顯示卡開拓新的出路,同時也提高相關記憶體企業的出貨量。
而隨著Google IO在各類AI技術的發表,我們也可以看到未來基於小模型的終端AI將是兵家必爭之地,這些都將產生新類型的應用與設備需求,帶動供應鏈的成長。
綜上,AI生態蓬勃發展,不僅驅動專業AI晶片的需求,也帶動相關半導體供應鏈加速運轉。AI才剛起步,供應鏈還有大有可為。
- AMD祭出MI300能否動搖NVIDIA領導地位 還有待觀察
- AI延燒COMPUTEX展會 降溫散熱方案也當紅
- 2023年全球晶圓代工產業市場趨勢
- PNY COMPUTEX 2023重磅登場推出新品
- 崇越新代理線大軍搶進COMPUTEX AI應用MCU受矚
- Qualcomm啟動5G多元垂直應用布局
- 勤誠創新產品陣容亮相COMPUTEX 滿足多元領域應用需求
- ChatGPT與NVIDIA齊推動!AI生態火熱成供應鏈運轉動力
- 記憶體模組廠亮出壓箱寶 搶攻AI高效儲存商機
- AI推波智慧應用浪潮 IPC業者參展兩種面貌
- Ambient Photonics室內光源太陽能電池啟動太陽能應用新革命
- ESG成為企業轉型引擎的趨勢與挑戰
- COMPUTEX 2023盛大登場 全球科技精銳與新創團隊齊聚一堂 共同引爆AI
- 技鋼科技聚焦高速運算市場 COMPUTEX三大主軸展示強大技術能量
- 高速傳輸需求不斷擴大 威鋒USB4裝置晶片掌握先行者商機
- 義大利新創企業參展InnoVEX
- TSLG耐落集團布局亞洲強化國際供應量能
- 海韻電子推出MagFlow磁吸風扇,開啟卓越電腦體驗之旅
- COMPUTEX展期宇瞻「Drive The Change」VIP專屬展於南港雅悅會館登場
- Frore Systems突破性散熱晶片獲 COMPUTEX BC Award 2023金獎
- 安提國際推出全新人工智慧入侵偵測解決方案
- Fibocom無線網路模組 迎接2023年成長大勢
- COMPUTEX眾星拱月 AI、電競教主黃仁勳來了!
- 吹起科技永續、ESG風潮 綠色供應鏈商機發酵
- AI浪潮發展的轉機與危機
- 掌握USB Type-C晶片商機 威鋒推出USB PD3.1晶片方案VL108
- B5G時代來臨 聚焦O-RAN、節能
- 明緯集團回歸COMPUTEX 展示跨產業系統電源解決方案
- 海韻電子走在遊戲、工業、醫療和網絡領域引領潮流的創新硬體解決方案
- 安提國際於COMPUTEX 2023 展出最新人工智慧解決方案
- 智微科技與開酷科技攜手亮相2023 COMPUTEX產品展示會
- 宜鼎國際強攻人工智慧 COMPUTEX展出多項AI垂直應用
- 消費市場疲軟 MCU業者搶攻車用、工控市場
- 聚焦USB周邊與AI技術
茂傑國際於COMPUTEX秀出多元應用潛力 - Axiado推出全球首個由AI驅動的安全處理器樣本
- 宜鼎國際COMPUTEX三大跨界應用 拓展AI生態系版圖
- 眾福科技於台北國際電腦展 強固型智慧顯示器 搶攻智慧交通商機
- 麗臺科技於COMPUTEX展出元宇宙與智慧病房解決方案
- PowerWalker「不斷電系統」將於2023 COMPUTEX亮相
- 互動國際數位於COMPUTEX展示GIS技術
協助企業ESG淨零排放目標 - COMPUTEX 2023辦理ESG GO!系列活動 攜手產業邁向淨零轉型
- 義大利創業企業現身InnoVEX展示新科技
- 智微與開酷於2023 COMPUTEX展示最新雷達手勢識別感測等解決方案
- 迎接疫後COMPUTEX展 明緯展示多項系統電源解決方案
- COMPUTEX Taipei中美萬泰展示全系列最新醫療級工業級觸控電腦
- PowerWalker前進COMPUTEX 展出不斷電系統
- 廣積舉辦Computex全球夥伴產品展示洽談會
- 明基佳世達集團大艦隊出動 22家企業參與COMPUTEX
- 前進COMPUTEX Taipei 2023 Avier以自然為啟發探索未來
- 鴻翊於COMPUTEX打造智慧機場 AI零售科技提升旅客體驗
- 英特爾CEO 5月下旬再訪台 與台積3奈米合作重啟受關注
- 台廠進軍東南亞 童子賢:別只想轉移製造 ,內需也「大的不得了」
- NVIDIA黃仁勳來了! COMPUTEX熱度回升
- COMPUTEX 2023匯聚全球千家科技與新創廠商
- 疫情終消退 2023年COMPUTEX千家大廠參展