技嘉科技於OCP全球峰會引領AI變革 驅動你我未來的生活 智慧應用 影音
Blue Yonder
SGS

技嘉科技於OCP全球峰會引領AI變革 驅動你我未來的生活

  • 魏于寧台北

技嘉科技於OCP全球峰會引領AI變革,驅動你我未來的生活。技嘉科技
技嘉科技於OCP全球峰會引領AI變革,驅動你我未來的生活。技嘉科技

作為生成式AI伺服器與先進散熱技術的業界領導者,技嘉科技旗下子公司,技鋼科技參加在美國聖荷西舉辦為期三天的OCP全球峰會(OCP Global Summit 2024),展示各種規模資料中心與工作負載所需的最新AI硬實力。在技嘉的A26展位將呈現採用 NVIDIA GB200與網路設備所整合的機架級解決方案、以及專為NVIDIA HGX H200 GPU設計的液冷(DLC)伺服器等產品。

如同2024年OCP全球峰會的主題「用想像力實踐你的影響力」,生成式AI應用的關鍵技術正是雲端服務業者今日最重視的解決方案,這些應用涵蓋藥物研發、語言學習及程式輔助等領域,並逐步改變人類的生活。技嘉不僅將運算資源完美融合於精心設計的伺服器中,也在綠色運算領域持續發揮重要影響力。隨著大規模雲端運算的能耗劇增,液冷伺服器成為提升能源效率的必經之路。

因此,在技嘉展位上展示的G4L3-SD1伺服器,使用液冷循環系統,有效冷卻雙CPU及NVIDIA HGX H200模組內的8顆GPU。而對於尚未準備採用液冷的資料中心,技嘉也展出了專為H200 GPU設計的G593-SD1氣冷伺服器,工整的系統設計布局區隔出獨立的GPU氣冷空間。這兩款伺服器為AI運算帶來卓越的效能表現,是當前市場上極具影響力的AI運算基礎架構產品。

當資料中心選擇以GPU運算叢集來追求超越單一伺服器的效能時,網路交換器的選擇至關重要。節點之間需要高速的資料傳輸和最低延遲,才能快速且高效地進行數據交換。為此,技嘉展示了NVIDIA Spectrum SN5600網路交換器,該交換器擁有64個800GbE端口,確保雲端規模基礎設施的高效運作。

此外,來賓在技嘉展位上能夠見證由36台GPU伺服器組成的NVIDIA GB200 NVL72運算機櫃。每台伺服器皆支援NVIDIA GB200 Grace Blackwell超級晶片,透過NVIDIA NVLINK-C2C與兩顆NVIDIA B200 Tensor Core GPU無縫連接。Blackwell架構同樣支援NVIDIA MGX模組化伺服器平台,並涵蓋NVIDIA GB200 NVL2的支援。技嘉過去展示的XH23-VG0伺服器即是採用MGX模組化設計,而最新的NVL2解決方案將能處理AI的精細訓練和推論。