智慧應用 影音
資策會-學員招募
Research 新二類網站廣宣

記憶體大戰略(下):從2D、3D到就近運算 記憶體的未來在哪?

半導體是高科技產業,高科技產業的特徵是持續的投入尖端技術開發,以創造新的經濟價值,挾以先進入市場的優勢,獲取超額的利潤,然後再以此利潤,重複投入更先進製程的開發,以擴大先進製程的領先進度,並投入更多的資本支出,建立更強大的規模經濟,這是高科技產業建立良性循環以在競爭中勝出的不二法門。

記憶體是半導體產業最大的次領域,記憶體包括DRAM、NAND Flash、NOR Flash、EEPROM等產品,以及新興記憶體,其產值大約佔半導體市場的25~30%左右。以半導體產業個別產品的產值而言,依次為DRAM(約13%)、NAND Flash(約11%)、CPU(約9%)。這些數字雖然每年會略有變動,但是大小次序約略如此,所以記憶體的競爭策略影響半導體產業的發展至鉅。

記憶體次產業的發展大致可分為下列四個階段:一、DRAM成為半導體製程主要驅動力的年代(1980~2000後);二、DRAM與平面NAND Flash享有製程與設備綜效的年代(2000~2013);三、DRAM與3D NAND Flash分道揚鑣的年代(2013~2022);四、引入記憶體新增值方式的年代(2022後)。我們將以這四個階段切入,向各位讀者分享記憶體產業的興與衰。

三:DRAM與3D NAND Flash分道揚鑣的年代

2014年後24層的3D NAND Flash問世,與2D NAND Flash並行生產到2017年。此後3D NAND Flash因其高密度的容量以及技術能持續推進而獨佔市場,其製程技術與DRAM完全分流,以前2種記憶體在於製程開發與設備利用的綜效完全消失,記憶體產業競爭戰略軸心改變。

DRAM的製程開始進入1x、1y、1z、1a、1b的緩慢進展年代,製程需要2奈米、甚至1奈米1奈米的攻克,昂貴的黃光設備EUV在1z、至遲到1a就必須投入生產;而3D NAND Flash由於開發了第三維度的空間,水平製程的精度反而開始放鬆,追求的是第三維度容積的快速成長;製程的重心偏向於蝕刻與平整化,黃光反而不再是重頭戲。

DRAM製程進展緩慢對於記憶體公司是個考慮經營策略轉變的時機,即使沒有競爭者的挑戰,投資於DRAM新製程的研發經費如何回收都有疑慮。只是此時DRAM業內對手在前一階段競爭中幾乎清掃殆盡,市場基本上是寡頭壟斷,問題變得沒有那麼尖銳、迫切。DRAM在以後很長一段時間還是大部分計算相關電子的必要元件,這一點毫無疑問。但是製程進展緩慢最重要的意涵是DRAM也許會脫離高科技產業的行列,公司要採取什麼策略面對市場是個大哉問。一個製程若要停滯十年,很多新進者就很容易跟上來。市場需求還在,可是競爭方式不會是高科技模式,也很難想像50%上下的毛利。

3D NAND Flash的前景相對清晰。由於目前預估的堆疊層數至少可達600層,製程直線推進的策略還有好幾年的能見度。

由於2種記憶體的研發與製造綜效消失,雖然市場競爭沒有過去慘烈,記憶體公司還是必須有新的競爭策略。

首先,2種記憶體之間的市場綜效開始浮現。3D NAND Flash SSD的價格已低於機械式硬碟(HD),DRAM和3D NAND Flash變成所有計算機具的共同標準配備,包括手機和電腦,所有記憶體公司必須同時提供2種產品給同一客戶。所以沒有DRAM的公司如東芝(Toshiba)必須向外尋求結盟,一次性滿足客戶需求。再者,DRAM的發展大限將至,如果還想維持高科技產業營運模式,選項之一是以新的記憶體產品來替代此一位置,並且這新記憶體還必須留有未來的發展空間,以重複套用以製程推進創造新經濟價值的套路,所以新興記憶體的開發是勢在必行。然而此時大部分的記憶體公司都已肩負2種記憶體的新製程開發費用,要另行開發新興記憶體,負擔更顯沉重。因此新興記憶體的開發必須尋求向外結盟,明顯的例子如美光(Micron)與英特爾(Intel)共同開發3D X-point memory、SK海力士(SK Hynix)與東芝(Toshiba)共同開發MRAM等。這些新興記憶體目前的開發進度只有一些利基型的應用,離能夠獨挑大樑還原遠遠不及。

四:引入記憶體新增值方式的年代

在記憶體無法再以傳統摩爾定律方式增加新經濟價值的時候,產業必須要尋求另類的技術創造新的經濟價值創造方式。

要想像記憶體產業如何用新的技術創造新的經濟價值,就必須要回歸記憶體的的基本功能處思索。在傳統計算機的馮諾依曼架構(von Neumann architecture)中,處理器與記憶體是2個獨立核心模組。但是由於現實上處理器與記憶體的運作速度不匹配,所以記憶體依速度又分為SRAM cache、DRAM及永久儲存器(NAND Flash SSD)3個層次與處理器串連對接。資料在處理時,訊息便在處理器與永久儲存器中間的路程反覆的傳遞、轉換。現在計算機半導體的技術中,一個資料的處理的功率消耗絕大部分浪費在這資料的反覆傳送之中,真正用於資料處理的功耗反而只佔一小部分,這也是現在半導體設計、製造中所面臨的最大挑戰。

要不依賴製程持續微縮而能夠解決上述的問題、而且還能持續增加經濟價值,方式之一就是整個計算系統逐漸脫離馮諾依曼架構,而其實施自然要從半導體元件著手。在此思維的引導下,記憶體產業探索新的價值增加方式目前看起來有三種:一是發展新興記憶體(emerging memories),二是發展以記憶體為中心的計算(memory-centric computing),三是發展應用取向(application-oriented)的記憶體與邏輯晶片整合。

發展新興記憶體的方向明確。基本上新興記憶體要如能DRAM一般的讀寫速度與耐久性,也要能像NAND Flash一樣有大容量與永久儲存的效果,兼二者之長又能行二者之職,術語叫「storage class memory」。

Memory嚴格來說是揮發性記憶體,像SRAM或DRAM,速度較快,但是只是暫存資料、權做緩衝;Storage則是永久儲存器,像NAND Flash。Storage class memory就是能同時執行緩衝記憶與永久儲存的新元件。MRAM或者FeRAM(或FeFET),都是這個方向的候選新興記憶體。這樣在計算中至少免去資料於DRAM與NAND Flash中間的往返奔波,大幅減少功耗。新興記憶體的發展還有製成持續的空間,SOT MRAM與FeFET甚至還有往3D結構發展的可能性,前程遠大。

以記憶體為中心的計算有短、中、長3個階段的嘗試。首先是近記憶體計算 (near-memory computing),做法是將處理器儘量的靠近DRAM,減少資料在2者之間的傳輸延遲以及功率消耗。實際的做法是將DRAM晶片多層的堆疊並與處理器用高階封裝整合成一模組,這個技術已經開始實施了,基本上現在的高效能計算(HPC)朝這個方向走。如果再多進一步,可能是將DRAM與處理器中間的電子連結全部改成光訊號連結,進一步提升傳輸速度、降低功耗。

更前瞻的是記憶體內計算(in-memory computing),這是近年來半導體界會議中的熱門議題。實施的方式大致是以上述的新興記憶體同時執行處理器與記憶體的功能。這樣子的計算架構基本上已經脫離了長年以來所有計算機採用的馮諾依曼架構,處理器與記憶體不再是分別的個體,當然也沒有資訊往返遞送的延遲與功耗。

更長遠的企圖則是師法自然的演進,模仿人腦的運作方式,這就是神經型態晶片。用憶阻器(memristor)模擬人腦中的神經元(neurons)與神經突觸(synapses),並且藉學習來建立、強化突觸的連結與成長。英特爾的Loihi I及Loihi II基本上就是這個方向的初期嘗試。

發展應用取向的記憶體與邏輯晶片整合是一個現在已經啟動的記憶體增值方式,是現在主要半導體經濟價值手段之一異構整合(heterogenous integration)的具體實施。譬如說在CMOS影像感測器(CIS)中將DRAM與影像訊號處理器(ISP;Image Signal Processor)、濾光鏡(filter)、微透鏡(micro lens)用先進封裝整合在一起,基本上這也是一種近記憶體計算的應用。再又如將DRAM與AI晶片用先進封裝WoW(Wafer-on-Wafer)或CoW(Chip-on-Wafer)整合在一起,譬如最近Graphcore開始量產的IPU-2,這也算是另一種的近記憶體計算應用。雖然這個增值方式的發展方向比較分散,但是在穩定興起的車用半導體及AIoT的應用中,將處理器與記憶體結合是一個預期會常用的方式,我們期待這種對記憶體的增值方式會快速開展。

這樣的應用方式有特別的場景:使用的記憶體並不一定是業界統一規格的標準記憶體,重要的意義是DRAM不再是一種大宗商產品,而是要針對應用目的特別設計的專用產品。市場的特質也改變了!

尾聲:當記憶體與邏輯的邊界變得模糊時

1984年英特爾決定退出DRAM的生產行列,這是記憶體與邏輯分流的一個象徵性叉路口。以後見之明來看,這個決定再自然不過。二者的設計、製造流程、機台配置、乃至於市場特性都截然不同。讓公司專注於單一方向、追求卓越,這是企業經營的基本常識。

但是2000年以後英特爾又重新投入NAND Flash以及3D X-point等記憶體領域的研發與生產,原因之一還是在舊有的馮諾依曼計算架構下,記憶體與處理器有千絲萬縷、難以割捨的關係。前述的Loihi神經形態晶片更是難以分辨它的屬性,是記憶體、也是處理器。另一個原因是至少短期內藉儲存器級記憶體來進一步塑造整個計算核心架構與規格,控制更多計算器價值鏈體系中的多點關鍵價值。

以記憶體為主的南韓半導體產業呢?3年前南韓公布10年半導體發展計畫,發展的方向是要邁向系統IC設計與製造,這是南韓政府與半導體產業界仔細諮詢後的精心策劃,事後看來真是高瞻遠矚,只是少提了新科技的發展,所以我之前的評價是前瞻性略嫌不足。預計DRAM獨立產品(standalone product)本身的高科技產業屬性即將消失,新的DRAM增值方向之一是應用取向的邏輯與DRAM的異構整合產品,所以戮力發展邏輯代工產業,讓南韓半導體產業同時具備這2種類別的製造能力。又因為DRAM產業本身所需設計人力相對稀少,如果要轉向發展邏輯代工產業,現存設計人力資源肯定不夠,需要快速培養大量IC設計人才。所以培養設計人才也是計畫重點之一,用以避免日本在90年代後期退出DRAM產業後要轉型到其他類產品所面臨的設計人才稀缺問題。

如果上述的例子都還不足以令人相信邏輯與記憶體的界線正在泯滅,那麼再看一看以下這幾則新聞:美光在台中后里蓋封裝測試廠、台積電與美光簽訂合作協議、美光與聯電達成民事和解,和解條件之一包括聯電的產能利用等新聞。這些新聞怎麼解讀?

在DRAM只有獨立產品應用的年代,記憶體公司是不太會投資封裝測試廠的,原因也很清楚:封裝測試廠的毛利一般不如晶圓廠,所以記憶體公司如果累積一些資本,會首先投入晶圓廠的擴產以增大其規模經濟,資本支出留在毛利最高的增值節點,封裝測試的工作可以委外代工,這是企業的資本與核心能力最合理的安排。只有在封裝測測試已經變成了產品增值的重要環節,才有理由投入資本支出。而這時的封裝測試當然不是只用於獨立記憶體產品的應用,更重要的是與其他類晶片的整合手段,或者是高頻寬記憶體(HBM;High Bandwidth Memory)與高效能計算(HPC)晶片的封裝。

台積電與美光的合作協議是理所當然。台積電已經有邏輯與記憶體晶片的異構整合產品,如前述的CIS、IPU2,其中的記憶體晶片需要特殊的設計以配合邏輯應片的效能與尺寸要求,邏輯廠與記憶體廠深度的合作是必須的。而台積電合作的對象大概不太可能是與其有直接競爭關係的南韓廠商。美光尋求聯電的產能則披露了這個新產業領域可能的新型態合作與競爭關係。簡言之,美光與聯電合作可能有比較有多的利潤分配空間。

在異構整合為主要增值手段之一的年代,邏輯晶片與記憶體晶片整合在同一產品內本就是業內常態,所以記憶體與邏輯廠商早已展開布局也就不足為奇。邏輯與記憶體的界線變得模糊了!在更長遠的未來,記憶體中計算與神經形態晶片的應用中更是你泥中有我、我泥中有你,分不清楚了。各類晶圓製造廠定義自己的核心能力,並且規劃由現在到彼岸的最佳發展路徑是當前的要務。

林育中為DIGITIMES顧問。1988年獲物理學博士學位,任教於中央大學,後轉往科技產業發展。曾任茂德科技董事及副總、普天茂德科技總經理、康帝科技總經理等職位。曾於 Taiwan Semicon 任諮詢委員,主持黃光論壇。2001~2002 獲選為台灣半導體產業協會監事、監事長 (Chairman of Supervisory Board, Taiwan Semiconductor Industry Association)。現在於台大物理系訪問研究 (Visiting Research Fellow),主要研究領域為新材料新機制、量子信息 (quantum information) 的基礎研究,擔任台灣量子計算暨資訊科技常務監事 (Standing Supervisor, Taiwan Association of Quantum Computing and Information Technology)。

現為DIGITIMES顧問,1988年獲物理學博士學位,任教於中央大學,後轉往科技產業發展。曾任茂德科技董事及副總、普天茂德科技總經理、康帝科技總經理等職位。曾於 Taiwan Semicon 任諮詢委員,主持黃光論壇。2001~2002 獲選為台灣半導體產業協會監事、監事長。現在於台大物理系訪問研究,主要研究領域為自旋電子學相關物質及機制的基礎研究。