掌握資料經濟時代新契機 美光推動記憶體與儲存技術創新

AI與5G匯聚帶動的數位革命，使數據成為驅動經濟發展的關鍵要素。因此，對各類運算架構來說，除了要求更高運算能力，記憶體和儲存元件亦扮演著比以往更重要的角色。

在2021年的台北國際電腦展COMPUTEX展會中，美光科技發表了一系列基於其領先176層NAND和1α DRAM製程技術的新產品；同時美光總裁暨執行長Sanjay Mehrotra及資深副總裁暨運算與網路事業部總經理Raj Hazra亦發表演說，闡述將如何透過記憶體與儲存創新，推動AI的擴大應用，以實現從資料中心到智慧終端的無限可能性。立即線上觀看2021 COMPUTEX美光CEO精彩影片發表。

發揮資料經濟的潛力

Sanjay Mehrotra在以「資料經濟(data economy)的創新引領數據新生活」為題的專題演講中指出，由於技術創新助力企業加速取得數據背後的洞見與意義，促進了資料經濟發展。根據麥肯錫研究報告，到2030年，先進數據分析技術將為全球經濟增加13兆美元的產值，而這些價值的創造取決於我們是否有能力利用龐大資料，更快地制定出更佳決策。

他指出，「數據推動了前所未有的創新速度，而AI和5G是實現資料經濟的關鍵，這兩項技術的結合能為後疫情時代帶來新的展望與應用商機。」

首先，隨著AI技術的快速發展，到2025年，預計75%的企業會把AI導入其營運流程中，為各行各業帶來全面改變，而AI的普及應用也刺激了運算平台變革，才能更有效、更快速地進行數據分析工作。至於5G，由於具備超高頻寬、大規模連結、以及低延遲特性，將帶動智慧終端網路的實現，有助於數據的即時存取與處理。

「所有資料的運用，都需透過記憶體和儲存技術來達成，這也是美光所專注的領域」，Sanjay Mehrotra強調。「此成長與轉型意味著對技術創新的需求，以為從資料中心、到終端網路，以及智慧終端裝置提供全新的解決方案。」

全球首創的176層NAND

結合先進製程技術、產品創新以及建構生態系統等三項策略，美光展現了引領市場的強烈企圖心。在演講中，Mehrotra宣布，第一款採用全球首創176層NAND的PCIe Gen4 SSD產品已正式量產，將能以更高效能、更低功耗與精巧尺寸，支援PC市場對於數據密集工作負載的需求。

此外，美光繼2021年1月發表導入1α製程的DRAM產品，本月已開始大量出貨使用1α製程的LPDDR4x DRAM。美光亦在第三代AMD EPYC資料中心平台上完成1α製程 DDR4的驗證，目前兩款產品皆已在包含台中A3新廠的美光台灣先進DRAM廠區量產中。

在汽車市場方面，美光則是宣布車用的128GB及256GB容量的96層NAND快閃記憶體已開始送樣，兩者皆是其UFS 3.1介面NAND新產品組合。

實現AI創新的關鍵

在業界朝AI無所不在的目標邁進前，還需克服哪些挑戰？美光資深副總裁暨運算與網路事業部總經理Raj Hazra在「記憶體是AI創新的核心」為題的演講以及美光的COMPUTEX展前記者會中，說明了記憶體創新對擴展AI應用的重要性。

他指出，傳統伺服器架構是以CPU為基礎所設計的。隨著AI、HPC、大數據分析等數據密集工作負載的快速成長，業界企圖透過增加更多CPU核心或是異質運算核心來因應此挑戰。但當記憶體創新的腳步無法跟上運算負載量的成長，將成為運算架構的瓶頸。

因此，記憶體和儲存已成為平台創新的主要環節。這也是為什麼，當業界在制定下一代DRAM標準─DDR5時，首次以資料中心，而不是終端裝置的需求為主要考量。

DDR5是過去10年來的重大平台創新，可為記憶體的頻寬與容量，以及資料中心能力帶來大幅提升。美光已於一年前啟動DDR5技術應用支援計畫(Technology Enablement Program；TEP)，協助生態系統朝DDR5平台整合移轉。目前已有超過100家企業、250位設計及技術領袖參與計畫。

記憶體的未來

除了DDR5之外，Raj Hazra表示，為了支援AI訓練與高效能運算的工作負載，就運算架構來看，我們應對既有以CPU為中心的平台設計方式做一更新，透過提供突破性的記憶體容量，才能滿足資料中心的應用需求。

對此，美光已於日前宣布支援Compute Express Link(CXL)標準，它的目標是使業者能夠透過直接、高速介面，建置擴展的記憶體容量，以作為CPU、GPU和其他加速器等不同運算單元的可共享資源，並根據工作負載需求即時配置。

「記憶體必須與運算單元更接近，才能加速存取並提升效能。透過導入新的開放標準CXL，業界將朝完全組合式(composable)資料中心架構邁進。將能夠連接CPU、GPU和加速器、儲存、記憶體和網路。」

特別是，隨著AI模型日益龐大，不論是AI的垂直擴展(scaling up)或水平擴展(scaling out)，都面臨了功耗、成本、延遲、容量等各種挑戰。

透過建置新的記憶體層級(memory hierarchy)，包含近端記憶體(near memory)如高頻寬的封裝中直接連接記憶體(in-package direct attached memory)以及遠端記憶體(far memory)如CXL連接記憶體，將能大幅提升數據熱區的處理效能。

Raj Hazra表示，透過此架構革新，將能實現未來的組合式資料中心，以最佳化基礎架構，因應從AI訓練、到模擬和建模，到資料庫管理和分析的各種資料密集工作負載。美光目前正積極開發CXL相關產品，將以完備的記憶體與儲存產品組合，滿足AI運算的各種需求。