專為生成式 AI 量身設計 新一代 Dell PowerEdge 伺服器現身 智慧應用 影音
DFORUM
世平興業

專為生成式 AI 量身設計 新一代 Dell PowerEdge 伺服器現身

  • 美通社

兼具高效能、絕佳散熱機制 滿足多元應用場景

專為生成式AI量身設計的多款新一代 Dell PowerEdge 伺服器,不光採用新一代Intel® Xeon® 可擴充處理器、 Max GPU 系列晶片,也融合通過驗證的先進氣流設計,擁有絕佳運算能力與冷卻效果,是推動生成式AI專案最佳平台,至今已在市場累積眾多成功案例。

生成式 AI(Generative AI)浪潮席捲全球,被眾多專家喻為是近10年驅動創新發展的重要技術。根據戴爾科技集團公布「Generative AI Pulse Survey」報告指出,有高達76% IT主管指出生成式AI在生產力提升、優化流程、節約成本等部分有極大幫助,對公司長遠發展扮演極重要的角色。

鑑於現今企業正加速推動生成式AI專案,戴爾科技集團推出多款支援 AI 技術的新一代Dell PowerEdge 伺服器,分別是通用型的R系列,如 PowerEdge R760、PowerEdge R660、PowerEdge R760xa、PowerEdge R960、PowerEdge R860等,以及具備高效能運算能力的PowerEdge XE9680、PowerEdge XE9640、PowerEdge XE8640等。至於XR 系列產品,則主打可將 AI 帶到邊緣之中,企業可依據自身需求與預算選擇合適的機種。

戴爾科技集團資深技術顧問黃敏俊指出,在生成式AI浪潮席捲全球之際,戴爾科技集團在運用AI拓展自身業務外,也將 AI 內建於產品或解決方案中 ,如本次推出多款支援AI技術的新一代 Dell PowerEdge 伺服器,讓企業能執行各種 AI專案,維持在產業中的領導地位。目前新一代 Dell PowerEdge 伺服器,已經被廣泛應用於眾多產業之中,如以數位廣告聞名的日本 CyberAgent、以色列政府重金打造的 Israel-1 超級電腦等。

效能與冷卻系統創新 吸引企業用戶目光

生成式 AI 在眾多領域展現無所不能的關鍵,在於運用大語言模型搭配千億以上資料進行訓練,這也代表企業必須具備運算能力強悍的 AI 伺服器。考量不同應用情境需求迥異,加上模型訓練、模型推論、模型微調等階段的算力需求不同,戴爾科技集團在產品設計過程中也融入許多巧思。首先,新一代 Dell PowerEdge 伺服器採用 Intel®推出的第 4 代 Intel® Xeon® 可擴充處理器,該處理器內建可用於多種工作負載的各式加速器引擎,其中 R760xa/R760/R660/XE9680/XE9640/XE8640 最多可安裝兩顆CPU處理器,R860和R960等產品最多可安裝四顆CPU處理器,能滿足一般的 AI-ML/DL 訓練與推論需求。

在 GPU 晶片部分,新一代 Dell PowerEdge 伺服可安裝 Intel® Data Center Max GPU 系列晶片,有 1100 GPU、1550 GPU等 類型,以及 Flex 140 可選擇,其中最高等級的1550 GPU最高擁有 128 個Xe 核心與 128GB HBM 記憶體,整體效能非常驚人。除此之外,企業可依照專案需求,選擇輝達的 A100、H100 系列晶片,以及超微的 MI300x 等晶片,確保AI專案執行效益與整體費用支出。

黄敏俊說,近幾年受惠於半導體邁向先進製程,CPU、GPU 等算力也隨之提升,但整體耗電量也比過去提升不少,因此我們在整機設計上下了許多苦心。新一代Dell PowerEdge 伺服器有獨步市場的三大特色,第一點是上一代伺服器相比,整體能耗強度降低 83%。以新一代Dell PowerEdge R760為例,只需 8 台即可創造出與 50 台 13代 Dell PowerEdge  R730 相同的算力。第二點特色為採用通過驗證的先進氣流設計,搭配智慧控制和最新一代風扇、散熱器,可創造出絕佳的冷卻效果。在企業環境許可下,部分機種可選擇更先進的直接液體冷卻 ( DLC )或浸沒式冷卻解決方案等散熱解決方案。整體來說可節省84%機櫃空間,省下60%處理器的電力費用支出。

第三點特色,戴爾科技集團提供獨家開發的 Live Optics Server KPI Comparison Tool ,讓企業預估未來升級到新一代 Dell PowerEdge 伺服器後,公司在機櫃、能源、維運費用的節約狀況,有助企業落實 ESG 策略。

融合眾多創新設計 AI專案最佳平台

在支援廣泛的 CPU、GPU 類型,採用新一代冷卻散熱系統之外,新一代 Dell PowerEdge伺服器在全球市場備受企業歡迎關鍵,還有眾多創新設計,如採用新一代 PERC12 控制器,整體效能比 PERC11 高 2 倍、PERC10 高 4倍。另外,產品支援新世代的 EDSFF E3.S NVMe Gen5 ,在優異封裝技術加持下,能為伺服器提供更高儲存密度、更優異散熱能力,同時整體效能比 NVMe Gen 4 提高一倍 。

黄敏俊表示,在前述軟硬體等多種創新設計之外,我們也提供 iDRAC9 管理工具,助IT人員能精準掌握伺服器運作狀況,同時享有降低工作負擔、維運費用等優點。根據統計,5年整體維運費用可節省達到8萬美元,這是非常可觀的數字。

在企業推動數位轉型過程中,生成式AI已成為不可或缺的重要動能。專為生成式AI量身設計的新一代Dell PowerEdge 伺服器,在採用新一代Intel®處理器、 Intel® Data Center GPU Max 系列之外,也同時考量到整體散熱與維運成本等,堪稱是企業啟動AI專案的最佳平台。