智慧應用 影音
工研院
ADI
讓數字說話:What gets measured gets managed
這句話是管理學大師彼得.杜拉克(Peter Drucker)說的。表面黏著技術(SMT)是電子產品生產線最主要的設備,各國或主要企業擁有的SMT生產線,往往也反映該國或該企業的量產製造能力。DIGITIMES副總經理黃逸平搜尋過去10年全球主要國家進口的SMT設備,根據這些數據,我彙整出幾個看法給大家參考。A. 2018年以前,中國是世界工廠,但在2018年川普總統揭開美中貿易大戰的序幕之後,新興國家爭搶G2大戰背後的商機,中國進口金額的變化就值得大家參考了。根據調查,中國的進口金額從2018年的92.74億美元,減少到2022年的84.28億美元,佔全球的比重也從2018年的20.9%,減少到2022年的17.7%。中國進口的SMT設備會不會繼續減少,相當值得注意。B. 美國、德國是工業大國,進口的金額仍然高居二、三,倒是墨西哥以25.65億美元,超過越南的16.85億美元,分別列名四、五進口大國,而在2021年之後進口增幅明顯擴大,顯示兩國量產製造實力更上層樓。亞洲的製造大廠對墨西哥的生產狀態相對陌生,未來也應有適當的追蹤機制,瞭解墨西哥在美中貿易摩擦之後的角色變化。C. 台灣在2018年的進口金額為6.95億美元,佔全球3.8%,排名第十,但2022年的進口增加到10.55億美元,全球佔比提高到5.7%,這應與2018年以後台商回流,帶回超過700億美元的投資資金有關。2000年時,台灣因為產業外移,製造業佔GDP比重跌到剩下19.8%,但根據台灣官方統計,2022年台灣製造業貢獻GDP的比重陡增到37.7%,這是個非常明顯的變化,基本上可以說是台灣從「去工業化」走入「再工業化」的過程,與地緣政治的變化息息相關。D. 最後是印度,印度希望透過PLI等招商機制,加速印度製造業的進化,滿足國內市場的需求。印度已經是全球第三大汽車市場、第二大手機市場、第一大的兩輪摩托車市場。過去印度在PC時代,因為沒有具實力的本土品牌,因此很難吸引製造廠到此設廠,但不少業者看好印度市場的潛力,積極提升印度在地生產的比重。三星電子(Samsung Electronics)早已布局印度,三年多前便在諾伊達(Noida)設置年產1.2億支的手機生產線。而基於蘋果(Apple)等相關業者的要求,台灣的鴻海、緯創、和碩都在印度設置生產線,過去幾年印度進口的SMT生產設備穩定成長,但在2022年卻出現走跌的現象。是大家認為「水太深」,一時半刻難以掌握前進印度的運作模式嗎?《印度之旅》書裡有一句話:「英國人管理印度一、兩百年,但印度還是印度人的印度!」,沒有足夠的想像力與長期耕耘的決心,印度就像是可口的蛋糕,但咬下去卻是滿口的沙子,這是一位南韓大公司印度主管對印度的評論。
2023/8/2
川普先生別鬧了(3-3):八強經典賽,美台都是天選之國
半導體是菁英匯聚的產業,也是資本密集、技術密集,加上經營智慧長期堆疊的策略性產業,誰擁有半導體業,誰就有產業制高點。我以棒球八強經典賽(Quarterfinal Classic)來形容這個賽局。美國是世界八強的種子團隊,他們擁有最尖端的技術、設備,也是遊戲規則的制定者。台韓各自擁有晶圓代工與記憶體產業,也都是世界半導體業領導地位有力的角逐者。歐盟與日本工業基礎雄厚,也有設備、材料工業,不會被遺忘在賽程中。倒是中國如何延續半導體業的計畫,而印度如何善用大量的IC設計人才,以及未來的元宇宙商機,都是值得大家注目的。八強賽的最後一席,應是由參與會外賽的國家取得外卡。可能角逐的潛力國家,可能是近年來成為電子產品生產基地的墨西哥、印度,擁有豐沛自然資源的澳洲、加拿大,以及以行政效率取勝的新加坡。1994年我派駐矽谷,我的堂姊夫40歲,他是當時在英特爾(Intel)邏輯IC設計團隊,專攻486 CPU的成員,團隊的負責人就是1961年生,現任英特爾執行長Pat Gelsinger。當時Gelsinger以34歲的「幼齡」擔綱,成為矽谷半導體產業的佳話。美國是個尊重創意,願意承擔風險,不論資排輩的傳統工業體系,也因為這樣,美國至今還能引領風騷。美國市調公司指出,全球半導體市場的規模是5,750億美元,這個數字是從市場端,結合IC設計與系統整合元件製造廠(IDM)兩種產業的總和。從這個角度觀察,美國IC設計業貢獻全球63%,IDM業者的貢獻率也有42%,兩者合計的總營收是全球市場的49.7%。也就是說,全球半導體產品有一半的機會是掛著美國的品牌在市場上銷售的。美國之外,南韓的三星電子(Samsung Electronics)、SK海力士(SK Hynix)因為擁有DRAM與NAND Flash兩大產業,靠著上述兩大品牌,在全球市場就有17.5%市佔率。再其次是以IC設計業取勝的台灣、日本與中國。至於晶圓代工、封測屬於製造服務,EDA是設計工具,與材料、設備都是供給面支撐半導體產業發展,如果把之前需求面的IC設計與IDM業者統括在內,美國廠商依舊貢獻全球的39.8%,其次才是台灣的18.3%、南韓的13.9%,以及日本、中國的9.8%與8%。以上五個國家,是目前全球半導體業的主要角逐者,歐洲雖有英飛凌(Infineon)、意法(STM)、恩智浦(NXP)以及設備廠ASML,但分散於不同的國家,歐盟如能整合,並在車用半導體上相互支援,未來仍是非常關鍵的力量。隨著電子工業的重心從NB、手機走AIoT的新時代,半導體產業的營運重心正在改變,甚至所謂的「尖端晶片」也從過去的微處理器、應用處理器主導的架構,走向AI專用晶片等更多元的結構。不僅如此,頂級的晶圓製造正從前端延伸到後端的封測,而過去總是說量產不易的砷化鎵(GaAs)、碳化矽(SiC)等功率半導體,也會有新的進展。在AI晶片進展的同時,三星記憶體也開始強調HBM-PIM的功能,Edge端商機也不再是空中樓閣。
2023/8/1
川普先生別鬧了(3-2):2008年是半導體業轉捩點,下一波動能呢?
2008年的次貸危機、金融海嘯,不僅讓全球金融業重新洗牌,在半導體業的世界裡也是天翻地覆的一年。在金融危機之後,台韓兩國,特別是台積電與三星電子(Samsung Electronics)都採取逐年加碼投資重裝備,擴大領先差距的積極戰略。2008年主辦北京奧運而獲得舉世讚賞的中國,不僅自信爆棚,在2009年的GDP總量也超過日本成為世界第二大國,在超級電腦、國防軍工產業的需求下,也開始試圖加速發展本土的半導體產業。全球半導體設備市場因此水漲船高,如果把過去15年的半導體設備市場分成2008~2012、2013~2017、2018~2022三個階段,第一個五年全球累積的半導體設備市場是1,658億美元,第二階段是2,037億美元,第三階段甚至暴增為4,058億美元。蘋果(Apple)iPhone在2007年上市,從此手機進入智慧應用的新時代,雙向傳輸數據的手機,需要更強大運算功能的應用處理器。這15年間,台積電、三星為爭取晶圓代工主導權而競爭。誰搶到蘋果、高通(Qualcomm)、聯發科應用處理器的訂單,誰就是贏家。台積電脫穎而出,也對比出台灣比其他國家更積極的半導體設備投資企圖。在2008~2012的第一個五年中,台灣購買的設備佔全球市場的23.3%,台韓日中等東亞以外的國家,也貢獻了35%。但在2013~2017的第二個五年中,台灣貢獻了26.2%,而東亞以外的國家也貢獻26.4%。到第三個五年(2018~2022),台灣貢獻了23.7%,而非東亞四強的國家僅有18.9%。這樣的態勢,導致2021~2022年間車用零件缺貨的問題,且將責任推到台灣、南韓廠商身上,這不是解決問題的做法。就像19世紀的淘金熱賣圓橇、鋤頭的商人一樣,起步較早的歐美日設備大廠都能取得先機,東亞的製造廠投資,最後賺錢的可能是歐美的設備原廠。在現代的競爭社會中,誰更努力就更有競爭優勢,這是我們的普世價值。最後,中國採購的半導體設備金額在2018年後大幅成長,關鍵是「大基金」激勵民間投資的結果嗎?在中國進口的設備中,有多少是三星、SK海力士(SK Hynix)、台積電、聯電、美光(Micron)在中國投資的設備呢?在「中國製造2025」的背後,容易出現「過多資金在追逐有限人才」的問題,中國如何導引資源的正確流動,以及中國在美國單方面的技術制裁背後,如何說服國內外的菁英一如既往的繼續努力,這將是中國產業政策主事者需要克服的障礙。對設備原廠而言,如何在分散型生產體系的背後,如何創造另外新的主流需求,也將是歐美設備原廠的重要挑戰。南韓或是台灣半導體廠的成功經驗,能複製到新興國家嗎?有為者,亦若是,也許設備原廠邀請南韓、台灣專家到新興國家分享產業發展經驗,更容易激起新興國家發展半導體產業的興趣,而與南韓、台灣廠商合作,也可能是各國發展半導體產業最快的終南捷徑。 
2023/7/31
川普先生別鬧了(3-1):台韓半導體業都是危機入市的成果!
不久之前,美國前總統川普受訪問時說:「台灣人搶走了美國晶片製造的工作」,聽起來很刺耳,但做為大國博奕中最脆弱的籌碼,台灣得引經據典,不卑不亢地證明這是台灣應得的!半導體製造往東亞移動始於1980年代,三星電子(Samsung Electronics)、海力士(Hynix)從1983年開始,台灣的聯電創始於1980、台積電是1987,他們都是從會外賽打起的,幾經艱困才有今天的局面。做為一個從事半導體與台韓科技產業研究將近40年的老兵,我知道半導體業幾個重要轉折,以及今天川普為什麼有這樣的埋怨。本來台灣與南韓根本是二線的科技產業發展國,無論從基礎科技或整體產業實力觀察,能有一席之地就該滿意了,不可能是四強準決賽的入圍者。台韓都得感謝美國在1986年簽署「美日半導體協議」,要求日本必須讓外商在日本擁有20%以上的市佔率,這個協議讓全球市佔過半的日本業者綁手綁腳,同時也給了台韓半導體業者一個機會之窗。1986年後,台韓火力全開,兩個新興工業國在往後將近20年間,以「取用於國,因糧於敵」的巧力爭得一席之地。南韓在記憶體稱孤道寡,台灣則是獨樹一幟,在晶圓代工領域集中有限的資源,在這個剛被張忠謀定義的新市場中取得壓倒性優勢。今日全球半導體產業的格局,3分之2的記憶體市場由南韓半導體雙雄獨佔,3分之2晶圓代工領域由台商一手掌握。特別是90%以上高階晶片在台灣生產,加上台海風雲緊急,更讓大家憂心位於西太平洋的台韓,在地緣政治上似乎又重回冷戰時期的角色與地位。孤懸於東海的第一島鏈,一旦烽火連天,全球供應鏈必然受到嚴重的衝擊,而現階段的產業樣態,似乎又證明台灣人、南韓人搶走了美國人的工作。其實,台韓兩國在2008年以前,只是個不錯的生產基地,還談不上稱霸全球半導體市場的實力,但2008年美國的次貸危機、金融海嘯給了台韓一個「轉大人」的契機。當時台系記憶體業者積欠銀行的融資貸款高達4,000億元(約130億美元),南韓的海力士、日本的爾必達(Elpida)也岌岌可危。此時,三星玩起「危機入市」、「膽小鬼遊戲」的戲碼,加碼投資記憶體,擴大與其他廠商之間差距。台灣記憶體產業從此被拋在領先群之外,日本爾必達破產關門,連海力士都在政府的協調下,由在電信市場獲利豐厚的鮮京集團接手,並改名SK海力士(SK Hynix)。從此三星與SK海力士成為南韓記憶體產業的雙保險,也以3分之2的市佔率笑傲全球。台灣2008年情況與南韓相近,多次強調自己是「學習曲線信仰者」(Learning curve believer)的張忠謀重掌兵符,以鉅額的資本支出「梭哈」全球的產業,那也是危機入市。台積電、三星的投資布局,也顯現在國際半導體產業協會(SEMI)公布的全球設備市場資料中。台韓砸重金,美系的設備廠跟著獲利,川普何來埋怨呢?下一篇文章,我們將以2008年以後的半導體設備投資為基調,檢視過去15年全球半導體產業的投資模式,並探索如何激勵更多國家投入半導體業的角逐。
2023/7/28
AI會是超乎尋常的「工業革命」嗎?
有哪些工作不會被人工智慧(AI)取而代之?需要複雜決策與推理的工作,短期內很難被取代。李開復說:紐約客的專欄作家很難被取代,但新聞編譯的工作就難說了;一樣是醫師,放射科醫師比家醫更容易被取代,在網路系統上媒合交易、電信業者的客戶服務,都是很容易被取代的工作,所以從英國電信(BT)到Vodafone都大量裁員,您認為台灣電信業者可以倖免嗎?就像台灣銀行分行沒有消失一樣,台灣電信業者門市消失速度或許會慢一點,因為台灣幅員小,人口密度高,喜歡步行、面對面交易,這樣也可以保留很多工作機會,不見得是壞事,只是專業服務業的進步就會慢一點。2021年是有史以來獨角獸增加最快的一年,但之後在資金成本驟增的壓力下,新創投資慢慢走下坡。根據NVCA調查,2020年創投投入的資本為1,710億美元,2021年是3,450億美元,而2022是2,410億美元,估計減少30%以上,這當然與資金成本上揚有關。原本以為不景氣會持續一段時間,但看來AI是重要的解方。關鍵的觀念是「以龐大的數據為後盾,根據每人特定需求提供專屬的服務」,這樣的概念可以大到工廠的「少量多樣生產」,也可以小到個人化的生活體驗,這也將是「贏家全拿」時代的深化。在網路發展的第一階段,市場形成的速度遠高於工業時代,但通常一開始會有很多新創公司參與,經過淘汰賽後由領先者出線。但現在是使用者同時參與創造數據,讓數據增加幾乎接近「零成本」,亦即這個市場將出現「指數型成長的模式」,新創事業出線更為困難!但科技大廠都看好AI商機,在ChatGPT上市之後,很多科技公司都推出相關應用,但最具影響力的仍是微軟(Microsoft),微軟宣示將把ChatGPT導入所有應用平台,2月放在Bing上,3月則是Office軟體,接下來也看到阿里巴巴、Meta開發類似GPT的大語言模式。其次,AI應用領域無所不在,從場域到影像、文字、聲音,多重內容的連動與結合,而混合型的應用更是大家很容易想像的變種方案,這是無縫接軌(Seamless)的多元共創。這個趨勢已經被討論好幾年了,但沒有想到是由AI與NVIDIA的GPU做為驅動因子,而台積電與背後的創意電子等公司就成為間接受益者。此外,NVIDIA使用「專屬軟體」,讓GPU得以在最佳的狀態下運作,這也是其他競爭者望而生畏之處。從用戶端觀察,軟體使得AI擴張更為容易,使用具親和力。很多生態系業者以各種演算法,透過ChatGPT提供各種有效的應用,領先者的優勢已經十分明顯,這並非只是炒作的一時現象。過去蘋果(Apple)的App stores是提供多元應用的平台,但Open AI直接切入各種應用,擴散效益將更為驚人,例如GPT-4可以結合影像,這又是另一種超越大家想像的應用。未來的使用者,不是搜尋部分資料,而是用部分資料誘導出更多的相關資料,革命性變化促使我們面對重新定義產業與國家戰略的時刻。
2023/6/12
數據「孤島化」的挑戰與契機
黃仁勳在台大畢業典禮上演講提到,1984年他從大學畢業,迎接的是PC起飛的年代,而2023年是「人工智慧起飛(AI)的年代」,期望今年畢業的學生可以掌握時代的契機,成為浪尖上的英雄。1984年底,我唸完研究所,1985年回到台灣迎接的也是PC元年!創業的過程總是艱辛的,「誠實的面對問題」是黃仁勳在台大整場演講的精華。與Sega的合作,其實技術上碰到挫折,但卻厚著臉皮要對方付錢;與張忠謀的互動,成就了雙方25年的革命情感。驕傲的創業家,也有彎腰請人幫忙的時刻,這些心理上的掙扎只有創業家可以體會!黃仁勳說:就像是1984年PC濫觴的時代,2023年是AI真正商業化的時代,而這背後有很多軟硬整合與硬體製造的機會。在Google搜尋引擎可至之處,大概有超過6成的數據是來自英語體系,中文只佔1.5%,繁體字更僅有0.01%,換句話說,如果以台灣本土的資訊、數據創造普遍性的價值,可能是緣木求魚,不可行的策略。但反其道而行,如果能在「孤島」上圈地自肥,專門找豐腴的土地耕作,而這塊土地還有往外擴張的空間,可行嗎?我做的就是這樣的實驗,我認為不僅可行,而且是AI創新與他人差異化的避風港。這個市場小到網路大腕們不僅視而不見,而且希望拉攏我們這些地頭蛇,加速事業模式的落地與實踐。這些離經叛道的做法,可能讓專業人士懷疑可行嗎?路是我走出來的,我知道有多難,但別人認為不可行的,您也一定沒機會!「大數據是AI的成敗關鍵」的說法,大致是正確的,但很多人也認同,數據總量與品質之間的關係很關鍵。過去將數據資產的重心放在資訊儲存、高速運算,現在「資訊的交換」也非常重要,這牽涉到交換的效率、條件、定義、對象等問題。由於現在的網路社會,數據是雙向互動,Input的品質當然影響到Output的結果,長期累積的價值、客戶的信賴都是成敗關鍵。其次,如何從累積大數據的過程中,找到具有商業價值的副產品,絕對是台灣這種中小型國家新創企業要深思的問題。這些副產品或技術趨勢,如何與台灣優勢結合,才是我們應該思考的問題。大趨勢背後的副產品、邊緣服務,這點商機不值得主流業者來經營。難度高,又看不上眼,難怪我們活得好好的!
2023/6/9
各國AI半導體發展現況與政策
所有工業大國都明白,各種創新的應用,背後都需要強大的半導體工業來支援,各種政策支援措施,在智慧聯網、數位轉型、人工智慧(AI)大商機來臨之際顯得更為具體與必要。需求更為多元,競爭更為激烈的今日,也無法再以工業時代的概念推動各種政策補強措施,而掌握本國半導體需求的呼聲正在各國發酵,我們該如何用正確的角度觀察,以半導體產業為核心的世界競合架構。美國:2022年8月,拜登政府推出晶片法案(Chips and Science Acts),以520億美元的規模支持美國重新掌握半導體產業的優勢,其中390億美元將用於提升生產製造能力。並從2022年8月26日起,以國安理由,要求賣往中國與俄羅斯的高階繪圖卡必須經過審核,之後更強化NVIDIA與超微(AMD)將高階繪圖晶片賣到中國的管制措施,也影響了華為、中芯等相關企業的營運。中國:在第14次五年發展計畫以及2035年的七大戰略目標產業,都將半導體列為重點產業。從AI、量子技術、腦神經、生物科技到太空科學,都與半導體產業高度連動。歐盟:也通過半導體晶片法投資430億美元,目標在2030年時搶下全球20%的市佔率,除了建構2奈米的技術發展路徑,歐盟也宣示要在AI、異質整合、5/6G通信、材料設備上加碼發展。此外,歐盟結合了10個國家28個機構共組研究平台,針對車用半導體,希望在2024年之前訂定車用半導體的發展路徑。日本:1980年代末時,日本半導體全球市佔率過半,1990年代開始衰退,現在已經不到10%,甚至多數是30~40奈米的老舊技術。儘管如此,日本超過半世紀的半導體產業,依舊留下很多不可或缺的條件。例如日本半導體設備全球市佔率32%,材料市佔率是56%,在國際市場都是舉足輕重的角色。現在日本希望透過與台積電、Sony、電裝(Denso)共同投資的熊本工廠,日本政府更展現決心,支援熊本計畫4,760億日圓投資經費的一半。另一方面,做為尖端製程的切入點,瞄準由Repidus主導的工廠,2025年可以進入2奈米的製程。由於日本的基礎工業十分厚實,加上汽車產業需求,台日之間合則雙贏,但跨國合作牽涉到文化、國家價值的認知,台灣在國際形象的提升上漫不經心,台積電得擁有多大的領先差距,才能讓日本人心服口服?南韓:以2030年全球AI半導體領域20%市佔率為目標,並希望能在5年內培養7,000名AI晶片設計工程師。2025年前能栽培出NPU業者,2026~2028年間以記憶體技術為基礎,培養出低功耗PIM業者,2030年前看到超低功耗PIM產業落地生根。此外,南韓還訂定在2026年培養30家,2030年培養50家AI晶片廠為目標,將AI半導體產業培養成為繼記憶體之後的第二大支柱產業。其他還有國產NPU資料中心、AI專屬資料中心、在三所大學設置AI半導體研究所等計畫。相較於最近一年走跌的記憶體產業,南韓將AI半導體視為南韓半導體產業的救世主。但南韓最大的挑戰,是AI半導體的發展模式與IC設計產業更為類似,南韓過去費盡心思力圖發展的IC設計產業,幾乎是徒勞無功。南韓在全球記憶體佔有6成以上市佔率,但IC設計業市佔率卻不到2%,而在CPU+GPU大亂鬥的時代,這也不是南韓所長,「苦悶」二字是南韓說不出口的難題。發展AI半導體產業,南韓需要的配套生態系還包括NPU、先進封測技術,而能與Tesla、微軟(Microsoft)、Google、NVIDIA等網路巨擘平行發展的特化晶片,更是嚴酷的挑戰。走到產業發展的極致,面對的問題都是「傾全國之力,都不一定能收割」的大賽局。也許南韓會將希望放在RISC-V這些開源性資的新技術,並結合記憶體優勢,找到不同於其他先進國家的發展路徑,否則也是一場肉包子打狗的低勝算賭局。
2023/6/8
台灣ICT產業的AI生態系
2010年前後開始真正受到矚目的深度學習(Deep Learning),是人工智慧(AI)相關技術進化的關鍵期,透過機器學習得到的經驗,讓AI技術有了新的依靠。2016年的AlphaGo更是推波助瀾的重要突破,之後各種邊緣裝置(Edge Devices)出現在市場上,相關技術與半導體晶片的進展也受到矚目。至於在半導體領域發展的特用AI晶片,則是一種特化型IC(ASIC),又可分為伺服器與邊緣端專用。目前大家關注GPU與CPU帶來的運算之爭,將來重心也會慢慢移轉到前端設備,這些都是重要的變化、挑戰,也是機會,而台商是海景第一排的有力角逐者。AI半導體是指可以讓AI軟體與演算法可以更有效率執行的各種專用晶片。現有的泛用CPU,在處理大量數據時可能面對極限,也讓出更多機會給不同的微處理器,例如GPU、DPU與用於推論的NPU,特別是當初用來處理圖像的GPU,運用在AI上,竟有遠超過原來期待的功能。特別是NVIDIA結合CUDA的軟體設計程式,造就了NVIDIA今天的盛況。除此之外,其他如現場可程式化邏輯閘陣列(FPGA)晶片也出現了新的契機。GPU與FPGA也都是泛用型IC,非只為某一客戶量身定製的ASIC。ASIC是具有明確目標功能的系統半導體,目前最被看好的GPU結合了CUDA軟體,在市場上具有壓倒性優勢,而NVIDIA的財報也證明過去的投資與軟硬整合的優勢正在發酵中。A100擁有6,912個CUDA Core與40GB HBM2記憶體,這套解決方案可以整合成一套超級電腦。2022年3月,NVIDIA推出效能比A100還要強大的H100。根據IDC調查,全球AI資料中心的市場規模,將從2021年的156億美元,成長到2025年的318億美元,年均成長19.5%,遠高於傳統伺服器市場的10.7%。至於AI晶片市場,各大顧問公司也有許多評估,多數看好未來幾年的成長,其中Gartner認為,AI晶片在2025年時可達700億美元,到2030年AI晶片市場總值將達1,179億美元,貢獻整個ASIC市場的31%。由於看好AI晶片商機,從超微(AMD)、英特爾(Intel)這些NVIDIA傳統的競爭對手,到上游的Arm、新思(Synopsys),以至高通(Qualcomm)、博通(Broadcom)每一家公司都虎視眈眈,英特爾甚至透過購併Habana,希望加速軟硬整合的實力。除此之外,美國、英國、法國都有很多新創公司嘗試開發出各種用途的AI晶片,中國當然也沒閒著。百度、華為、阿里巴巴、比特大陸等,都有明確規格與定義的AI晶片發展計畫。此外,南韓記憶體雙雄在記憶體內運算(PIM)市場上著力更多。三星電子(Samsung Electronics)在2020年發表HBM-PIM的產品,讓晶片可以在沒有連結資料中心的情況下,獨立進行演算,對聲音、影像在裝置前端的應用上深具意義。走在市場最前端的晶圓代工業、設計服務業者,大致可以維持應有的地位,但最受挑戰的是台灣IC設計產業。在晶圓製造領域,14奈米以下先進製程成為必要條件,擁有最先進製程的公司,仍將是市場上的寵兒。台灣IC設計業雖只佔全球市場的18%,在前十大業者中有3家來自台灣,但台灣擅長替代型商機,而非定義市場,參與前端市場的角逐。其次,業者面對人才短缺、成本激增、中國業者追擊等相關議題,真正有實力角逐頂級商機的廠商屈指可數。台灣的IC設計業者正積極趕上這一波大AI潮的滾滾商機。最後,前端設備的多元需求,AIoT商機無可限量。IBM估計,物聯網終端設備總量從2020年的150億台,增加到2025年的1,500億台。10倍速成長加上多元商機,如何發展通用效益,又可以差異化設計的發展機制,是台灣業者最大的挑戰。
2023/6/7
是誰攪和AI一池春水?
為角逐未來AI商機,各大廠商也拉幫結派,NVIDIA購併了Mellanox與Excelero,而看似被NVIDIA拉開差距的超微(AMD),也購併賽靈思(Xilinx)及Pensando。邁威爾(Marvell)、博通(Broadcom)、英特爾(Intel)也都各有盤算,特別是英特爾在晶圓代工久攻不下,CPU/GPU/DPU市場又面對嚴厲的挑戰,除了發展類似CUDA的程式語言之外,也與Habana Labs合作,我們看到大廠決戰光明頂的景象,也知道AI競爭現在才進入火熱的階段。繼GPT-3.5之後,Open AI再度於2023年3月發表GPT-4,這套Foundation model更貼近市場的需求。短短幾個月之內,上億人的使用經驗成為「學習」的基礎,運算法的改善,也讓AI應用帶來新的境界。科技大腕相繼加碼研發,整個生態系的改善非常具體,微軟(Microsoft)的積極態度也帶來推波助瀾的效果。到2022年4月底止,Office 365已經有3.2億使用者,而搭配Office 365推出的Copilot軟體,讓這些使用者有條件從過去經驗中推演相關的應用。以Copilot的使用者做測試,每個使用者節省的時間大約是50%,這是個很龐大的數字與價值。Microsoft 365 Copilot可以連結Word、PowerPoint、Outlook、Teams等檔案,並與Microsoft Graph、LLM等功能同步使用,也使用Grounding的演算法。微軟在2022年底推出ChatGPT之後的兩個月,推出ChatGPT Premium的方案,每個月收取20美元的費用,應答問題的速度可以快3倍。透過各種搭載的方式,讓原先的Windows/Office等軟體得到升級的機會,這對微軟而言,是十年難得一遇的好機會。微軟搜尋引擎Bing市佔率僅有2~4%,遠遠不如Google,但在這次改變的過程中,可能會是最大贏家,在推出GPT-4之後,Bing市佔率提高到9%以上,2023年3月9日,Bing使用者首度超過1億人。儘管Google的每日活躍用戶數(DAU)已經超過10億人,但我們看到微軟在AI領域上的突破,可能給微軟在數據檢索上一個彎道超車的機會。未來大型資料中心將繼續升級,藉以進行加速運算,可以預期伺服器與相關晶片、服務業者的商機生氣蓬勃。過去每次的技術創新,都帶來龐大的衍生商機。從工業革命的蒸氣機到鐵路,從網際網路的出現到各種遊戲、生活體驗不斷革新,但這次的AI革命可能更勝以往。我們可以預期類似YouTube、SNS等新型態的服務平台一定會出現,對台灣的啟示就是「軟體應用」必須積極參與、學習,而硬體製造當仁不讓,特別是晶片與相關服務業者的價值體現,將會有新的面貌。
2023/6/6
AI商機有多大?誰是獲利者?
一旦Open AI建立完整的生態系,就可以主導整個商機,影響力越大的品牌與解決方案,將會成為市場上的領導者。微軟(Microsoft)刻意造成「生成式AI等於Open AI」印象,加上Office 365的優勢條件,微軟可能是很大的受益者。由於需要強大的數據運算能力,在資料中心晶片市佔遙遙領先的NVIDIA成為最大的獲利者,台積電也因為是代工夥伴而受惠。現在NVIDIA跟英特爾(Intel)叫板,甚至暢言「CPU時代已經結束」!導入AI不外乎是為了使用者忠誠度、提高效率,提升競爭力等。估計Open AI的市場規模,將從2023年的2億美元,增加到2024年的10億美元。遊戲開發商可以利用各種AI工具加速產品的開發,並以各種內容的整合開發出新的商機與市場區隔。市場剛剛起飛,但速度也可能像ChatGPT一樣迅雷不及掩耳!相較於現在的檢索模式,對話式檢索機制成本必然會增加,光是學習自然語言的運算機制,各種伺服器、資料中心的投資就以1,000億美元的規模來計算。Open AI需要導入1萬顆以上的NVIDIA A100繪圖晶片,相關資本支出與背後的維護都非常驚人。另據Semi Analysis估計,Google自主開發的Google TPU v4,資本支出高達200億美元,這大約是Alphabet 2022全年資本支出的64%。可以預期「超巨量型資料中心」(Hyperscale Data Center)將是軍火競賽的一環,起步較早的微軟與AWS都是領先者。但無論是內部或外部的連結,都是資料中心管理者很大的挑戰。我們同時可以見到傳輸速度不斷的提升,到2025年時,使用800G數據傳輸速度的Switch將高達2,500萬個,這與2022年還是主流的100G相比,已經不可以道里計!整體而言,資料中心的演化,從最早的儲存資料進化到演算,現在則是分散處理,藉以取得最佳化的成果。為了有效管理這樣的需求,除了過去倚重的CPU之外,現在資料中心更關注DPU(Data Processing Unit)的進展。這些可以有效管理儲存數據的微處理器,將是下一波需求的主流。相較於過去專注在特定功能的微處理器,DPU更重視整合性的功能。簡單來說,CPU用於一般的運算功能,GPU是加速運算功能,而DPU是專注資料處理功能。「Scaling AI Compute」是從資料中心的運算,延伸到網通過程,以及邊緣端的多元AI運算機制。基於提高運算效能、降低功耗等多方面的考慮,大家把希望寄託在晶圓製造與EDA工具的進化。如何以ASIC半導體晶片為基礎,生產出可以符合差異化需求的硬體設備,也都是製造廠非常大的考驗。 
2023/6/5