SMART Modular世邁科技致力擘建CXL生態系,助攻AI/ML、HPC創新應用 智慧應用 影音
EVmember
Event

SMART Modular世邁科技致力擘建CXL生態系,助攻AI/ML、HPC創新應用

  • 陳其璐台北

SMART Modular(世邁科技)亞太區市場開發總監洪綱懋。世邁
SMART Modular(世邁科技)亞太區市場開發總監洪綱懋。世邁

隨著數位轉型浪潮席捲,驅使全球智慧應用需求急遽飆升,連帶讓人工智慧(AI)、高效能運算(HPC)蔚為顯學。綜觀AI或HPC工作負載,皆涉及大量資料處理,需要仰賴豐沛的記憶體資源加以支撐;惟礙於多數伺服器只有8或12通道的記憶體架構限制,恐使新興應用發展出現瓶頸。

所幸在CXL國際聯盟努力推動下,不僅催生CXL(Compute Express Link)產業共通標準,且在短短不到4年內迅速迭代更新,已為伺服器廠開啟機會之窗,有望借助CXL介面增加快取一致性記憶體,進而營造記憶體池化(Memory Pooling)利基,順勢突破設備容量效能、成本及延遲度等諸多傳統限制。

全球專業記憶體與儲存解決方案的領導者SMART Modular(世邁科技)看準這個重大契機,領先推出全球首款XMM CXL 2.0(Compute Express Link 2.0)擴充記憶體模組,期盼匯聚生態系夥件的力量,加速AI/ML及HPC等Memory-Driven應用的創新進程。

SMART Modular創立至今逾30年,致力開發中高階工業及企業級嵌入式記憶體產品,包含DRAM記憶體模組、SSD固態硬碟、混合式解決方案等;擅於提供高度客製化的產品設計能力、嚴謹可靠的測試服務及即時專業的技術支援,並與全球領導OEM客戶緊密合作,從產品設計到上市,皆能提供高效可靠解決方案,滿足各類工控產業與高成長應用的需求。

以合理成本,孕育經濟型高速運算架構

SMART Modular亞太區市場開發總監洪綱懋表示,以市場主流的2路伺服器而論,在現有CPU架構下,兩顆CPU無法共享彼此的記憶體,導致整體資料中心經常出現5~10%資源浪費。

此外,若將每台2路伺服器的16根插槽佈滿64GB DRAM,總容量也只有2TB,對照於多數Memory-Driven應用所需要的4TB資源,尚有多達2TB缺口。按理說可透過兩種方式解決,一是購置4路伺服器,另一是改用128GB記憶體,但可惜的是,無論走哪一條路,都會為用戶帶來巨大成本壓力,因而滯礙難行。

在伺服器部分,眾所皆知4路機種要價不菲,較2路機種昂貴許多,令用戶難以入手。若欲沿用價格相對親民的2路伺服器,只能考慮選用128GB記憶體,但因此類高階RDIMM,需以3DS先進封裝技術堆疊而成,屬於高單價產品,相較於採用一般封裝技術的64GB RDIMM,價差堪稱懸殊;顯見在128GB記憶體配置模式下,勢必大幅墊高總體成本,仍讓用戶望而卻步。

SMART DDR5 XMM CXL模組的出現,可望使前述難題通通迎刃而解!洪綱懋說,一方面,CXL讓伺服器記憶體互連共享,讓總體資源有效運用、不再浪費。另一方面,用戶只要採用Add-In Card的XMM CXL模組(提供4或8條擴充槽),即可在2路伺服器、64GB RDIMM等平價基礎上,滿足4TB記憶體配置需求,實現最具經濟優勢的Memory Pooling,消弭成本失控疑慮。

他進一步解釋,可望受益於CXL的應用情境,不僅是大家熟知的AI/ML或HPC,其餘包括雲端服務、串流媒體、線上遊戲、AR/VR、高頻金融交易等亦可歸類於Memory-Driven的眾多應用,都將同蒙其利,足見CXL的想像空間至為寬廣。

已針對E3.S、Add-In Card,推出兩款CXL模組

不可諱言,欲達到真正的記憶體池化,其實必須借助CXL 3.0,但預期要到明後年,相關ASIC才會就緒;那麼以現在今的CXL 2.0來看,有值得伺服器廠搶先布局的誘因?

對此洪綱懋透露,目前已有合作夥伴發揮創意,透過CXL 2.0基礎成功達到記憶體池化。例如有業者結合FPGA,實現跨伺服器的記憶體互連;另有業者利用CXL Switch的ASIC,針對不同伺服器的記憶體進行Pooling。

截至目前,SMART已基於E3.S、Add-In Card等不同Form Factor,推出兩種XMM CXL 2.0模組,其中Add-In Card方案被SMART列為現階段推廣重點。

主要是因為,E3.S是全新的介面,伺服器廠投入發展的進度快慢不一,還未臻至普及狀態。至於Add-In Card,伺服器廠只要利用現有Intel Sapphire Rapids、AMD Genoa等平台上的PCIe通道,無需更改伺服器設計,便可直接插入CXL 2.0  Add-In Card,讓原本的通用型伺服器搖身變為Memory-Driven伺服器,搶攻偌大高效能運算商機。

基本上CXL模組算是「ASIC+記憶體」組合方案,與起源於DDR 3年代的NVDIMM(為「記憶體+Flash+Battery Pack」的組合)架構有異曲同工之妙。而堪稱NVDIMM模組發展先驅的SMART,多年來已淬鍊深厚的客製化產品設計實力,也養成精銳的產品研發與韌體工程團隊,如今得以發揮強項,在ASIC既有的RAS基礎上,將CXL模組設計得更加穩固可靠。

展望後續,SMART規劃將NVDIMM設計到CXL之中,成為另一套新的CXL 2.0模組產品,現已完成相關規劃與設計,至於問世時間表,還需配合客戶的進程而定。

值得一提,為延攬更多夥伴共襄盛舉、一齊加入CXL介面的推廣行列,SMART將偕同英特爾、伺服器廠、軟體廠等現有生態系夥伴,預定在5月共同舉辦「引爆記憶體池潛能,CXL助攻高效能AI運用」論壇活動,屆時將展示夥伴們打造的Memory Pooling解決方案,期盼藉此形成典範轉移效應,吸引其餘業者起而仿效、開發更多基於CXL 2.0的Memory-Driven創新運算平台。