技嘉推出支援NVIDIA HGX H200平台AI旗艦伺服器
- 魏于寧/台北
在生成式人工智慧與科學運算的發展之下,大規模數據集的需求日益增加,領先業者無不盼以強大算力驅動科技。因應客戶的需要,做為生成式人工智慧伺服器與先進冷卻技術領導者,技嘉科技子公司技鋼科技推出兩款新的8-GPU伺服器,這些伺服器支援NVIDIA HGX H200平台,該平台非常適用於大型AI數據集、科學模擬及其他高記憶體需求等工作負載。
G593 AI旗艦伺服器系列在GPU冷卻的設計上獨佔鰲頭,在緊湊的5U機箱中實現穩定且高要求的效能,並提供強大的氣流以解決驚人運算密度所帶來的熱能。
NVIDIA H200 Tensor核心GPU與禁得起考驗的GIGABYTE G593 8-GPU基板伺服器系列完美結合。相較於NVIDIA H100 Tensor核心GPU,NVIDIA H200 GPU在記憶體容量和頻寬上有顯著提升,具高達141GB的HBM3e記憶體和4.8TB/s的記憶體頻寬,分別增加了1.7倍的記憶體容量和1.4倍的吞吐量。
新款技嘉GPU AI旗艦伺服器
一、G593-SD1-AAX3:支援第5代Intel Xeon 可擴充處理器
二、G593-ZD1-AAX3:支援AMD EPYC 9004系列處理器,多達96個CPU核心
透過精密的調整與設計,除了CPU平台之外,這些新款伺服器有著類似的布局和規格,以適應加速運算的各種應用需求。這些伺服器將列在NVIDIA合格系統目錄中,更包括先前四款已通過NVIDIA認證系統™的G593 AI旗艦伺服器系列,有極佳的功能性與效能表現。
G593 AI旗艦伺服器系列具備高水準的網路和儲存能力。支援最多8個U.2 Gen5 NVMe SSD,該系列可以使用NVIDIA GPUDirect Storage(NVIDIA Magnum IO技術之一)快速處理數據,實現從GPU記憶體到儲存的直接路徑,提升頻寬且降低延遲。為了連接叢集中的其他伺服器或進行資料中心外的數據傳輸,提供了12個擴展插槽,支援透過NIC或DPU進行NVIDIA InfiniBand或乙太網路連接。此外,更配置了4+2 3000W冗餘電源,提供充足的電力和可靠的持續運行。
GIGAPOD:機架級整合解決方案
近期AI帶來科技的飛速進步,從企業到學術界都在引頸期盼最新發展,大型運算叢集的設計對人工智慧的發展就顯得至關重要。技嘉自2023年推出了其機架級解決方案GIGAPOD,並使用NVIDIA HGX系統的部署大獲成功。目前,GIGAPOD均使用G593 AI旗艦伺服器系列來整合NVIDIA HGX H100。隨著產品線擴展支援至NVIDIA H200 GPU,GIGAPOD將幫助客戶實現更高的效能和效率,大舉加速運算流程。