AI應用遍地開花 高頻寬低容量記憶體成功耗表現成敗關鍵 智慧應用 影音
EVmember
member

AI應用遍地開花 高頻寬低容量記憶體成功耗表現成敗關鍵

  • 林稼弘台北

GP-Boost DRAM可以提供客戶外掛的獨立記憶體產品,或是讓處理器業者直接以封裝方式,再交由客戶進行設計。華邦電子
GP-Boost DRAM可以提供客戶外掛的獨立記憶體產品,或是讓處理器業者直接以封裝方式,再交由客戶進行設計。華邦電子

隨著AI技術在各類應用持續普及且不斷進化,其功耗表現成為至關重要的關鍵,華邦所開發的高頻寬低容量記憶體,如GP-Boost DRAM與HYPERRAM恰好能因應此類市場需求。

AI運算在近年來已經是各類電子終端產品中不可或缺的重要技術之一,隨著技術不斷演進,終端裝置的系統功耗表現早已是諸多業者們所十分在意的重點。華邦電子觀察,早期AI在雲端運算與資料中心的發展,隨著資料量的不斷增加,對於AI的模型訓練與事件推論的發展雖然有其幫助,但資料量的增加對於記憶體頻寬的需求自然有相當大的提升。但若將目光放到邊緣(Edge) AI或是終端(End point) AI,會進一步考量到功耗表現。

華邦擅長高頻寬中低容量記憶體開發  系統成本可再進一步降低

華邦因應AI技術的發展,開發商可以透過工具將AI模型進一步壓縮,從系統開發的角度上,過往外掛所需的記憶體容量,在AI模型縮小之後,可望有所降低,所以整體成本可望優化,但另一方面,終端裝置所要處理的AI模型資料效率,反而與日俱增,所以記憶體所需要的頻寬必須要有所升級,才能有所因應,而華邦本身就極為擅長開發這類產品,針對中低容量記憶體的產品開發上,致力於記憶體頻寬的升級。

華邦依據業界在不同的算力與Arm CPU類別組合上,提供相應的記憶體產品,以Cortex-A系列的CPU來看,推薦GP-Boost DRAM內的1~2Gb LPDDR3/4產品線,記憶體頻寬範圍約莫從8.52GB/s到17.04GB/s。目前GP-Boost DRAM可以提供客戶外掛的獨立記憶體產品或是讓處理器業者直接以封裝方式,再交由客戶進行設計。除了Cortex-A系列的CPU外,對於更低功耗的Cortex-M系列CPU,華邦則是以HYPERRAM產品來加以因應,對於更小的AI模型,例如數位辨識或是語音指令等應用場景,搭配如Cortex-M7或是M55這類微控制器專用的CPU,目前市場上的頻寬需求大約是1GB/s。

AI EXPO力推HYPERRAM Arm、RISC-V CPU架構皆適用

華邦此次所參加的AI EXPO,預計要推廣的產品線就是HYPERRAM,鎖定穿戴式應用為主,儘管這類產品在市場上已經非常廣泛,但規格仍在持續發展中,尤其這類產品對功耗十分重視,所以華邦在HYPERRAM的功耗表現上做了不少努力。HYPERRAM是採用串列訊號,但進一步提升記憶體內部的頻率與I/O數量,所以更加適合穿戴式產品這類在意功耗表現的終端應用。在一般待機模式的功耗表現為例,以記憶體容量64Mb來進行比較,傳統SDRAM待機功耗約莫2000uW,若是進入HYPERRAM獨有的Hybrid Sleep mode,待機最低功耗約莫35uW,這個Hybrid Sleep Mode待機模式仍然保有資料,但相比於SDRAM,待機功耗卻降低了98%,可謂相當大的躍進。華邦除了HYPERRAM要進行推廣外,GP-Boost DRAM家族也有新的成員即將面市,如前所提,華邦擅長開發中低容量的高頻寬記憶體產品,所以AI EXPO將會有1Gb LPDDR4/4x樣品跟大家見面。

不過,華邦也強調,儘管市場主流的CPU架構以Arm CPU較為常見,但華邦的記憶體產品也適用於RISC-V CPU設計,近期陸續有成功案例推出在eFPGA領域,觀察台灣與中國都有獲得採用,目前中國市場在這兩年持續積極發展RISC-V,尤其有不少應用對於功耗要求十分重視,相信HYPERRAM應能在中國市場獲得不少青睞。