智慧應用 影音
美輸中縮水版AI晶片沒人要,誰是最大獲益者?
近期DIGITIMES有幾則報導與評論,談及NVIDIA推出特供中國的2度降規AI晶片H20,但中國客戶意願缺缺一事。值得探討的是,商業潛力龐大的中國內需市場缺口,究竟會由哪家半導體業者得利呢?2023年10月,美國商務部BIS更新先進計算晶片和半導體製造設備出口管制規則,規範總算力及效能密度(總算力/晶粒面積)上限,受限制晶片包括NVIDIA的A100/A800/H100/H800/L40S系列、超微(AMD)的MI250/MI300系列,以及英特爾(Intel)的Gaudi2系列,之所以中國客戶對採購H20意興闌珊,是因為大語言/多模態基礎模型,已然成為兆級參數的軍備競賽,以H20組建的AI算力叢集,難以支持這般規模的訓練任務。中系業者的因應之道有四,一是透過各種管道購買更多的A100等受限晶片/模組/板卡;二是透過各種管道購買更多的受限繪圖晶片/板卡;三是自研AI晶片;四是購買中國國內業者的AI晶片。解法一是建制算力最理想的解方,解法二是沒魚蝦也好的應對作法,但從日前圖森未來被疑偷運NVIDIA A100晶片給中國遭美方阻止並調查,以及阿布達比人工智慧/雲端服務集團G42出脫所投資中國公司股份及切斷中國供應鏈這兩事例看來,美國的圍堵力道只會愈來愈緊。解法一與解法二或早或晚會遭斷糧,並非長遠之計。解法三為雲端業者自研晶片,中國AI公有雲有阿里雲、百度智能雲、騰訊雲與華為雲等四大巨頭,真正僅供自家雲端服務使用而未對外商業販售者,僅有騰訊採12奈米製程的紫霄,但其與阿里平頭哥的含光800均為AI推論晶片,非供AI訓練使用。歸納解法一、二、三後可發現,針對雲端/互連網業者及伺服器業者需求的商業AI訓練晶片,才是中國AI算力產業鏈的發展關鍵,參與者包括雲端業者旗下的華為海思、百度崑崙芯及騰訊持股21.37%的燧原科技,以及海光、寒武紀、沐曦、天數智芯、璧仞、摩爾線程、登臨等業者。會脫穎而出接收這龐大市場缺口的業者,我認為有2個條件:一是在晶片層次,取得中國擁有先進技術的晶圓代工廠、封測廠與記憶體廠的策略性支持;二是在硬體/軟體/應用層次能建立完整的供應鏈/生態系。對獨立的晶片業者來說,即便取巧推動「類CUDA平台」模式,我認為仍具有高度挑戰性,而在大集團旗下,擁有雲端/互連網龍頭業者在後強力支持的業者會更有機會,這其中我最看好華為。華為與中芯的先進晶片合作,已然成為中國突破美國封鎖的關鍵所繫,海思昇騰910b採中芯7奈米N+2製程,下一代昇騰920則可望推進至5奈米,成為中國內部與NVIDIA H100算力落差最小的晶片。若從生態系角度來看,華為自己在伺服器主機板上除了AI晶片外,也包括鯤鵬CPU、基板管理控制器(BMC)晶片、網通晶片、與SSD控制晶片等。在其上有對標NVIDIA CUDA+cuDNN的CANN(Compute Architecture for Neural Networks)混合式運算架構,支持主流的PyTorch及TensorFlow及華為自己的昇思MindSpore等多個AI架構,更上層也有完整的算法開發與應用開發的軟體堆疊。華為伺服器硬體合作夥伴包括華鯤振宇、神州數碼、清華同方、寶德計算機等業者,以及多家應用軟體與SI業者。觀察其客戶名單,已拿下包括百度、科大訊飛及360等指標性雲端/互連網/AI公司及三大電信業者。此外,中國各地都在積極建立AI計算中心,多數的標案均由華為昇騰方案得標,其中包括北京、天津、廣州、杭州、重慶、成都等重點城市等。在外有美國管制難出海,內逢經濟疲軟影響籌資的大環境下,再加上建立軟硬體生態系的高門檻讓業績拓展無法一蹴可幾,中國新創AI晶片業者普遍面臨營運上的挑戰,2023年陸續傳來寒武紀與摩爾線程裁員、壁仞科技2位創辦人離職的消息。相較之下,作為中國事業範疇最廣、掌握雲端服務/電信網路到終端裝置、軟硬體垂直整合程度最高、公司也最賺錢的華為,看來是最有底氣接收美國管制下所讓出中國算力市場缺口的業者。若中國政府想要與NVIDIA CUDA脫勾,建立起全然自主可控的算力生態系,除華為外還有更好的選擇嗎?
大學薪資結構也是另一個國安議題
不久前與一位任教於頂大IC設計的大學同學聯繫,希望同學能推薦其所指導的博士畢業生,因為他一直是有志於IC設計的年輕學子,最希望能爭取加入其麾下、炙手可熱的指導教授。只是得到的回覆卻是,在過去的4年中,他只有畢業1位博士生。現在學子在拿到碩士學位後,便急忙投入產業,連大學現在也很難爭取到半導體相關領域年輕的助理教授。同學還無奈地表示,社會大眾有意識到年輕助理教授的難覓,增加不少額外的獎勵及福利,最不幸的是像他一樣的資深教授,缺乏被關愛的眼神。有位也是任教於頂大的傑出電機系教授,最近被國外的大學以新台幣600萬元年薪挖走。但是這600萬的年薪說高也不高,約略等於國內碩士畢業後工作10年以上,表現不錯並在獲利的IC設計公司任職的年薪。當一位大學教授,發覺自己所培養出來的研究生,畢業後的薪資沒多久便超越自己,會是情何以堪。我們現有的大學教師薪資結構,是不分系所都是一致的,所依據的是公務人員服務法。試想如果今天政府規定所有的大學畢業生,不論其所學專長為何,就業後的薪資是一樣的,完全不考慮市場機制,而未來的升遷是以年資為主要的考量,請問這不是很荒謬嗎?事實上,現行大學教師的薪資結構,大致如此,為何不能做些改變?我在美國留學時所就讀的大學,每年都會公布教職員的薪資。記憶中當時教授年薪最高者,是位醫學院的外科教授,其薪資幾乎是文學院老師的4~5倍,學校美式足球總教練的薪資是高於大學的校長,這一切都是市場機制所決定。唯有市場導向的薪資結構,才有機會創造出有競爭力的環境。事實上在三十年前,大學教授的薪資是高於業界水準,再加上有寒暑假及退休金制度,可以吸引不少博士畢業生,爭相從事教職及研究工作。但是經歷這麼多年,學校的薪資僅微幅調漲,與業界的差距是逐年拉大。老成凋零與青黃不接,是我們目前以科技為主體的大學師資及系所的寫照。我們不斷地在強調人才的培育,也投入了不少資源,但是身負培養人才的大學教師們,他們的福利是否有被照顧到?甚至於該如何爭取到優秀的人才,願意來大學任教,這一切已經是個不折不扣的國安議題。政府已經推行大學彈性薪資有一段時間,讓學校對於表現優異的教師,給予特聘教授或講座教授的頭銜,並得到一定調薪的比例。但是我們要提出的不是20~30%的調整,而是倍數級且符合市場行情的薪資差別。今天一個系主任,倘若系上老師因為外界給予2倍的薪資而提離職,系主任要能擁有資源提供出對等的薪資結構來挽留,而非眼睜睜地予以祝福。既然大學教師的薪資結構是個國安議題,便不能再以與法無據而加以搪塞,齊頭式平等不是真平等。前些時候我們與國內一所大學進行項產學合作案,執行計畫的教授把屬於自己的人事經費列得比較高,但是我們覺得很合理,因為的確有這個價值,但是卻被校方打回,因為超過規定上限。上一回的地方縣市長選舉,少數幾位候選人的碩士論文,因為涉嫌抄襲而被迫退選。社會上就出現一種似是而非的說法,主張碩士學位要寫碩士論文,是個過時的產物而應予廢除。還好是大學的自主,頂住政客們凌駕專業的謬論,我真不敢想像一個沒有論文的碩士學位,其競爭力在哪裡?既然論文都可以考慮廢掉,為什麼薪資結構不能做重大的調整?我的大學同學依舊每天兢兢業業在做研究指導學生,學生們畢業後高高興興地展開其璀璨的前程,但這一切可以維持多久?現在是時候來關注大學薪資結構的國安議題了。
黃欽勇:台灣、日本為半導體絕配 東亞三強扮新興供應鏈轉移關鍵
地緣政治壓力與產業結構變化正推動半導體業者進行策略合作,同時強化各個國家或地區尋求夥伴關係的誘因,其中台日尤為密切。在新興市場爭取切入半導體供應鏈的過程中,除了台灣與日本以外,南韓的支持也不可或缺。在與DIGITIMES Asia的訪談中,本身即為資深半導體產業專家和顧問的DIGITIMES社長黃欽勇表示,中美對抗已成定局,而半導體產業正在發生結構性變化,從台灣兩大半導體大廠不約而同尋求與外國IDM廠結盟觀察,台日的合作將產生最大綜效,但如要在新興國家如南亞、東南亞建立資通訊供應鏈,則台日韓的支持必不可少。台積電剛宣布熊本二廠的投資計畫,與Sony、電裝(Denso)及豐田(Toyota )等當地企業合作,聯電也與英特爾(Intel)合力研發12奈米製程,但黃欽勇表示,「在我眼中,台灣和日本還是絕配。台灣面臨人才不足、土地有限的困境,上游材料也不夠,日本半導體材料佔全球52%,設備佔36%,都是世界一流。」此外,黃欽勇指出,日本有很前瞻的應用研發,這也是台灣缺乏的。「例如,台灣很會做零件,卻對遊戲機使用情境缺乏理解,而日本的任天堂(Nintendo)是當中翹楚,並且有能力去定義應用。」日本也需要台灣。目前台灣最好的人才都還在製造業,定義應用的能力不強,而日本除了定義應用外,基礎科學研究也很強。「在過去,要和日本合作比較困難,因為成本很高,但現在日本人均所得幾乎跟台灣一樣了,這也是很大的結構性改變。」黃欽勇說。除了歷史淵源以外,日本前首相安倍晉三一句「台灣有事,就是日本有事」,被許多人引用來描述台日之間的友好關係。黃欽勇認為,日本的糧食自給率不到20%,如果海峽兩岸打仗,日本當然會有事,所以不希望看到台海危機,也希望跟台灣更密切合作,彼此成為最佳的策略夥伴。「台灣政府會將重要的系統備份,但要放在哪裡?對台灣而言,日本是最好的備援中心,這都是地緣政治壓力下必須思考的。」產業變化與供應鏈移轉的挑戰產業結構的改變,展現在軟硬整合、多元多樣生產以及區域化生產等三大重要趨勢上,也影響著業者的轉型與半導體產業鏈的移動。黃欽勇指出,1999年,歐洲5個國家生產的汽車比重佔全球27%,到2022年只剩12%;日本則從17%減至9.5%,汽車對這些國家都很重要,因此歐洲、日本壓力都大,其工業體系皆在改變,而智慧座艙已有網路公司在滲透(penetrate)此商機,未來汽車不再只是製造業,而是製造加服務業。「如果中美對抗勢所必然,如何讓新興國家有更多機會?這是平衡中國影響力非常關鍵的策略。」黃欽勇表示,現在東南亞、南亞建構在地生產體系的機會較以往大,但都必須獲得日本、南韓、台灣的支持,因為現在要建構生產體系也比以前困難,由於規模更大,零件配套需更完整,必須充分重視生態體系的重要性。資通訊終端產品與電氣化的汽車同為半導體關鍵出海口,台灣有六大電子代工廠與台達電為蘋果(Apple)、戴爾(Dell)、惠普(HP)等大廠在東南亞與南亞製造,日本有任天堂、Sony以及豐田、日產(Nissan),南韓則有三星電子(Samsung Electronics)、樂金電子(LG Electronics)以及現代汽車(Hyundai Motor)等在東南亞與南亞深耕多年的企業。根據Gartner於2023年9月發布的調研報告,48%受訪企業未來3年有在東南亞新建或擴展製造產能的計畫,36%企業則表示在南亞有擴產計畫。黃欽勇認為,要重建一個毛利低的大規模生產體系非常困難,因為進入障礙太高,「所以最好的方法,是讓東南亞、南亞國家,與東亞傳統生產體系高度結合。這是對他們最有利也是最低風險的方法。台日韓也需要更多社會資源,所以未來我們可能面臨一個沒有國界的新世代。」由於東亞有許多半導體晶圓廠已經完成設備折舊攤提,黃欽勇認為,如果將舊設備和廠房賣給想參與半導體供應鏈的新興國家,並且提供技術和營運經驗顧問服務收取授權金,不但可增加收益再投資研發新技術和採購新設備,也可幫助新興市場國家放低學習門檻,加速其半導體產業的發展。地緣政治仍牽動神經回應英國古典經濟學家李嘉圖(David Ricardo)對國際貿易中專業分工的重視,黃欽勇也認為,每個國家必須把自己的優點和長處發揮到極致,無縫接軌,才能協助新興國家建立起在地資通訊生產體系,例如台灣有資本成本、人才素質和產業經驗優勢,需要積極發揚光大。但南韓可能會有挑戰,因為產業集中在少數幾個財團,樂金、三星可能也發現品牌價值已不如以往,因為品牌消費電子產品可能貢獻其50~66%的營業額,但獲利貢獻度恐怕不到15~20%。三星手機從2022年出貨2.6億支,1年後降到2.2億支,品牌價值也在改變,所以三星2023年以後在技術、產品和業務結構必然面臨巨大變化。「可是當這些新興國家要往軟體、低軌衛星和醫療轉型,都可能挑戰到先進西方國家的核心利益,尤其是涉及戰略國防與國家安全的領域。資訊安全也是,都會挑戰到西方國家容忍度。」黃欽勇說,「最後就會發現,品牌完全不是關鍵,地緣政治的影響是全球都必須面對的問題。這不是件好事,因為必然會對經濟繁榮產生衝擊。」 
第一位程式工程師—愛達・勒弗雷斯
愛達・勒弗雷斯(Ada Lovelace)是19世紀英國一位成就卓著的數學家,浪漫詩人拜倫(George Gordon Byron)的女兒。她是史上第一位程式設計師。用現代的說法,她是開先河的「程式媛」、技壓理工男的女學霸。愛達出生不久父母離異,與母親相依為命。她的母親Annabella Milbanke熱愛數學,堅持讓女兒從小開始學習邏輯、科學和數學。在19世紀男性沙文社會,這些學科幾乎是女性的禁區,對這些學問感興趣並願意鑽研的女性是極為罕見的機會。愛達從小對機器著迷,19歲時嫁給了一位名叫金(William King)的貴族青年。他曾經教過她數學。 丈夫被冊封勒弗雷斯伯爵後,愛達・金夫人成為勒弗雷斯伯爵夫人。1833年,她遇到機械工程師巴貝奇(Charles Babbage),十分投緣,成為好友。巴貝奇提出了差分機與分析機的設計概念,其設計具有現代電腦的所有基本要素,分析機被認為是早期電腦的雛型,巴貝奇因此被視為電腦先驅。愛達對這個分析機極感興趣,悉心研究,1842年為這部機器編寫第一個程式,1843年在英國科學期刊上發表。後人視之為最早的電腦程式。愛達在論文中介紹如何為巴貝奇分析機創建代碼,用來處理字母、符號和數字。她還為這部機器創建一種重覆一系列指令的方法,這個過程被稱為「循環」(for loop),至今電腦程式還在使用。她建立循環和子程式概念,為計算程式擬定算法,寫出人類歷史上第一份「程式設計流程圖」。分析機從模型變成現實,經過100多年的時間。1940年代,英國科技奇人圖靈(Alan Turing)受愛達的論述和設想的啟發,開始建立現代電腦的理論。愛達於因治療子宮頸癌失血過多而去世,享年36歲,被安葬在諾丁漢父親拜倫的墓旁。她對電腦科學的貢獻當時無人關注,直到她去世後才被人發現。如今,愛達是成為科技界傑出女性的象徵。美國國防部紀念這位伯爵夫人在電腦領域開先河的貢獻,於 1980年將歷時20年研製成功的高級程式語言命名為Ada語言。那是公認第四代電腦語言的主要代表。為了鼓勵更多女生把科技事業作為人生追求,英國女權活動人士2009年發起倡議,每年規定一天作為主題日,舉行各種活動慶祝自然科學和工程技術領域中愈來愈多優秀的「理工女」跟「理工男」齊頭並進。這一天被命名為「愛達・勒弗雷斯日」,簡稱ALD,定在每年10月第二個星期二。愛達欣賞數學之美的能力是許多人,包括一些自認為是知識分子的人,所不具備的天賦。她意識到數學是一種美麗的語言,一種描述宇宙和具有詩意的語言。愛達擁有一種詩意的感性,使她能夠將方程式看作描繪自然物理壯麗的筆觸,就像她能夠想像「紅酒色的海」或「走在美麗中,像夜晚一樣的女人」一樣。但數學的吸引力更深;它是一種精神的表徵。數學「構成我們能夠充分表達自然界巨大事實的唯一語言」,她說,它允許我們描繪在創造中展開的「相互關係的變化」。這個工具的運用讓「弱小的人類思維,能最有效地讀懂造物主的作品」。 
日本半導體產業的文藝復興之路(二)
日本政府引進國外半導體業者投資的效果相當顯著,幾乎國際間各大半導體製造公司都報到了。另外本土公司聯盟組成的公司Rapidus也將目標置於尖端製程的開發。  這些晶圓廠的興建對日本半導體的貢獻,剛開始時比較是稍為間接的。在恢復產業生態、擴大機器設備、材料內需市場、以及支持日本IC設計公司方面等都當然有幫助,但是對於自有的先進製程研發卻得看Rapidus的表現。 延伸報導名人講堂:日本半導體產業的文藝復興之路(一)Rapidus一開始就瞄準2奈米nanosheet GAAFET(Gate All Around FET)的最先進製程,和IBM與IMEC合作,預計在2027年左右量產。1.5/1奈米需要不同的電晶體結構,將和LETI(Laboratoire d’Electronique des Technologies de l’Information)合作,用2維材料過渡金屬二硫屬化合物(Transition Metal Dichalcogenides;TMD)當成電晶體中通道(channel)材料。  Rapidus面臨的挑戰之一是參與製程研發的各方皆無量產經驗。IBM最後的量產晶圓廠賣給格羅方德(GlobalFoundries)是2015年,其他各方要不是新創,要不就是實驗室類型的研發機構,要走向量產註定要多花一些工夫。  然而,Rapidus最大的挑戰是有無辦法快速地建立規模經濟(economy of scale)。先進製程的研發極其昂貴,代工廠其實是以用IC設計公司客戶資金實施眾籌,進行下世代製程研發。因而到14奈米以下,全球市佔不足的公司紛紛停止先進製程的競逐。  對於2奈米以下的先進製程的開發尤為如此。2奈米是nanosheet GAAFET,1.5/1 奈米是2D通道電晶體,1 奈米以下可能是CFET(complementary FET)。幾個世代間的電晶體的結構、材料、製程都是翻天覆地的大變化,若無足夠大的市佔便無法產生足夠的盈餘,無力推動下世代製程的開發。即使湊了開發費用,沒有足夠的市佔也無法回收,遑論建立代工生產所需要的諸多生態環境如設計服務、先進封裝等。  先進晶圓廠的建立無疑的會提高日本機器設備廠商的市佔率,有些晶圓廠已經設立日本國內設備採購佔比的目標。  這個因素影響相對比較輕微,重要的是日本在黃光這一大區塊是否能重新啟動。2023年Cannon推出奈米壓印(Nano Imprint Lithography;NIL),解析度可以達到5奈米,預計2025年會先在NAND Flash的製造中使用,但是預計無法完全取代EUV。要打入DRAM及邏輯線路的市場還要在對準(overlay)以及粒子(particle)問題上下工夫改善。 延伸報導名人講堂:奈米壓印的初始應用 (一):技術與挑戰另外一個領域是日本有機會得分較多的是先進封裝設備。日本的先進封裝設備相對領先,而製程持續演進、先進封裝、新材料是現代半導體經濟增值的三大支柱。先進封裝市場的自然擴增—譬如現在當紅的生成式AI(generative AI)就一定要使用先進封裝—自然提升在此領域的優勢廠商的市佔表現。  最後是材料。日本於此部分環節猶仍如日中天,卻有危機隱然浮現。明處的是來自於中國的威脅,中國的材料基礎科研發表論文佔全世界約14.5%,比美國多1倍,而中國目前正在進行材料、設備的自主化。這一定會影響到日本,只是時間早晚的問題。  更深層的理由是材料的合成與製造正在經歷典範轉移。第一原理計算(first principles calculation)、AI與量子計算等用計算的方式正在逐漸顛覆傳統的合試誤方式,工藝精神的優勢正在逐漸弱化。雖然日本於先進計算並不落後,譬如富士通(Fujutsu)用數位退火(digital annealer)來輔助材料開發仍然領先全球,但是產業的典範移轉就意味著變動的可能性。  先進半導體材料的應用考慮與傳統材料有些差異:材料介面性質到與塊材(bulk)性質至少一樣重要,而且很多材料的使用是依賴半導體製程設備。  日本的材料研發比較願意做長期部署,而半導體廠商求的多是短期內有機會進入應用的材料候選人,這二者密切的結合,會深度地互相嘉惠對方。 先進晶圓廠在日本開始發展的新聞中最令我有感的是台積電與三星電子(Samsung Electronics)都在日本設立材料實驗室,這可能是對日本材料產業最大的立即助益,而且助益是互相的。
日本半導體產業的文藝復興之路(一)
當我進入DRAM產業時,那時最負盛名的半導體產業分析報告Dataquest,列出DRAM產業廠商排行:90年代下半,三星電子(Samsung Electronics)已然出頭,NEC和東芝(Toshiba)還分居二、三,前十名中尚有其他日本廠商。這看似猶為優裕的景況,僅僅已是日本半導體產業的落日餘暉。  再往前10年,日本半導體正當是花團錦簇、油烹鼎沸時分,半導體產品佔據全世界50%的市場,機器設備廠商自晶圓製造到封測都是獨佔鰲頭,材料更是處於宰制地位。整個半導體供應鏈,除了80年代末期才開始萌芽的電子設計自動化(Electronic Design Automation;EDA)之外,幾乎是完整而且佔有絕大優勢的。  經過20幾年的凋零,現在日本的半導體產業景況又是如何呢?簡單的講,可以用1、3、5這3個數位一言以蔽之。1是指半導體生產佔全世界市場的百分比近10%、3是指半導體製造機器設備約佔30%、5是指半導體材料約佔50%。  這個1、3、5看起來貧脊嗎?一點也不會。10%是什麼概念?高的如南韓,近20%;日本與歐盟並列,近10%;再次是台灣、中國。  日本半導體製造雖然不能與全盛時期相比,但是在有些特殊領域如功率器件、車用半導體等尚有一席之地。欠缺的只是先進製程技術及產能,這也是日本政府及產業界努力推動的方向。 另外,日本的IC設計公司也嫌不足。90年代後,日本從DRAM產業轉向系統IC後,發現設計人力不足的問題。一家大的DRAM公司基本上只需要幾個IC設計團隊就已經足以滿足產能需求,因為DRAM是標準產品,而且市場規模大;系統IC的樣態較多,市場比較分散,需要更多的IC設計團隊。目前日本的IC設計次產業仍然嫌單薄。 機器設備的市佔率自然也不如前,主要失去的市場自然是黃光設備,這是90年代DARPA發展出EUV技術原型後技術移轉對象選擇的結果,先進製程黃光設備市佔的流失是必然趨勢。日本在黃光之外還丟失了一些市場,譬如蝕刻設備。總體而言,日本的半導體製造機器設備仍然有顯著的份量。  日本半導體材料仍然維持著市場主宰的地位。這要歸功於過去化合物的發現和合成有點匠人工藝(craftsmanship)的味道—經驗不是單以銳意進取的作為就可以替代的。像味素(Ajinomoto)能從一家調味品公司擴張到半導體材料,靠的當然不是其原來所缺少的半導體的領域知識,而是對化合物的發現與合成的匠人工藝精神。  日本半導體產業其實並未經歷猶如中世紀的黑暗期,講文藝復興是有些言重了。  眼下日本政府全力引進的各國投資有效嗎?會改變哪些現況呢? 
CES 2024展後觀察:三大主題、10個關鍵字
今年(2024年)最大的科技盛會CES,熱度再勝往年。根據主辦官方資訊,展場面積較2023年增加超過10%,參展家數超過4,300家,較2023年3,200家增加34%。全球最大的繁體中文科技網DIGITIMES從12月1日起至1月23日刊載的CES相關報導及研究報告,合計達到235篇,較2023年同期增加27%,在在顯示CES相關熱度勝過以往。分析此次的展出內容,我認為可以歸結出「三大主題」、「10個值得關注的新興科技關鍵字」提供參考。首先,AI Everywhere是最熱門的話題,產品未跟AI扯上邊似乎有點趕不上流行,AI在CES主要出現在AI PC、AI Smart Home、AI Mobility以及AI Health Tech(健康科技)這四方面。AI Everywhere關於AI PC的定義,領導大廠的定義仍分歧,但AI PC絕對不會是只走高階市場,例如電競PC這類的利基應用(佔整體PC出貨量仍未達10%),未來幾年AI PC勢必遍及各人的工作與休閒生活中。AI Smart Home可以稱得上是Smart Home智慧化的另一次躍升,舉凡電視(畫質提升)、冰箱(AI相機自動辨識)、掃拖地機器人(自然語言互動、視覺辨識、高度自動化)、空調(調整頻率以利節能)、烤箱及微波爐、床墊、馬桶、電動腳踏車、賞鳥望眼鏡…等,本屆CES中都可見到AI技術的應用。三星電子(Samsung Electronics)及樂金電子(LG Electronics)也展示其家庭儲能系統,利用AI科技來最佳化家庭能源使用的效率。隨著人口高齡化,健康科技日益受到關注。舉例來說,透過具備AI技術的健康鏡(Smart Mirror),消費者可以做基本的身心健康檢測;又如骨傳導技術AI耳機,消費者在健身活動中,AI教練可以協助提供提示與指導,在游泳時有了AI教練也不會游錯水道。另外,智慧床墊、智慧馬桶都是健康科技相關的應用。目前AI應用多多少少存在著噱頭成分,不過就像智慧型手機的發展,1992年就有智慧型手機在市場上,但要到2007年目前的智慧型手機雛形才確立,生成式AI在各方面的實質效益呈現,也會需要一些時間。新興顯示科技第二大類主題是顯示科技。CES 2024的XR(AR/VR/MR)展出業者高達350家,顯示在2023年蘋果(Apple)宣示Vision Pro的上市計畫後,眾多業者都想在2024年順勢在XR市場上有所斬獲。CES 2024在顯示科技的3個關鍵字為,Micro LED、OLED以及輕量化AR眼鏡。OLED技術持續進展,預估2024~2025年全球智慧型手機半數將採用AMOLED技術。CES 2024中,多個電視、電競監視器、NB及汽車展示OLED顯示方案,熱度逐漸擴大。樂金顯示器(LG Display)的OLED TV面板峰值亮度較傳統的OLED面板提高42%,有助於其與LCD技術競爭。 Micro LED因具備優異的條件,被視為終極的平面顯示器。然而,Micro LED成本仍偏高,所以必須找到特定的利基,才能夠在應用基礎十分廣大的TFT LCD與新興的OLED技術夾擊中找出路。從CES 2024可以看到Micro LED應用於大型透明顯示器、車用儀表板、內嵌於車窗的智慧互動顯示器、AR用微型顯示器(Micro displays)等;其中車用具備其他技術難以企及的優點,Micro LED在AR應用,未來5年可望有50%以上的出貨量複合年均成長率。輕量化的AR眼鏡方面,此次已經有業者展示與一般眼鏡外型相當,重量也差不多僅35公克左右的試用版AR產品,較CES 2023版本減少40%。目前AR眼鏡出貨量仍低,藉由輕量化發展先行開拓企業用及零售用利基市場,不失為鞏固利基應用,日後圖謀擴大市場的安全策略。隨著AI技術的提升,未來AI結合AR的發展空間相當寬廣,包括差旅時的語言翻譯、訊息提示、即時問答及腦力激盪與個人創作應用。CES 2024也有廠商展出無實體螢幕的AR NB及汽車用AR眼鏡方案,諸多可能性值得關注。汽車科技汽車科技為近幾年CES最主要的展示要點,CES 2024與汽車科技相關的參展業者高達700家,屬於最熱門的參展產品類別。2024年值得注意的4個汽車科技趨勢,一是軟體定義汽車(Software-Defined Vehicles;SDV)概念進一步落實及推廣,高通(Qualcomm)、NVIDIA及英特爾(Intel)透過本身或其採用業者發表新的進展。高通預估數位底盤的整體市場機會在2030年可達1,000億美元,所接獲的訂單金額合計也超過300億美元。汽車運算能力今後幾年也將明顯提升,因應L2+~L4自動駕駛的需要,例如目前ADAS晶片市佔率最高的Mobileye,主要銷售的晶片算力約為25 TOPS,但NVIDIA 2020年發布的Drive Orin晶片算力254 TOPS,2024年多家汽車業者已經採用。NVIDIA新一代車用SoC Drive Thor算力高達1,000 TOPS,2024年下半採用該晶片的汽車將上市銷售。另外,為了加速晶片上市速度及降低開發成本,開放架構及小晶片(Chiplet)設計也將是車用SoC的發展趨勢。Chiplet方式設計的晶片市場,可望由伺服器用、PC用,進一步延伸到車用的處理器,2030年採用Chiplet設計的車用晶片市場規模較2023年成長10倍。其三,AI在中高階汽車將是標準配置,本次展會BMW、賓士(Mercedes-Benz)、福斯(Volkswagen)、福特(Ford)紛紛展示整合生成式AI技術的汽車科技,便利性將是AI技術進一步提高消費者滿意度的重心。至於生成式AI運用對個資外流的顧慮,業者表示這些資訊已經過處理,ChatGPT將無法存取到汽車使用者的問答及個人資訊。DIGITIMES研究中心針對CES 2024已產出多篇專題研究報告,詳細報告內容請參考相關網頁。
晶創台灣方案評論 (二)
第二項技術議題是「加速產業創新所需異質整合及先進技術」,這個很明顯是對上述生成式人工智慧(generative AI)晶片及應用的支援項目。 延伸報導名人講堂:晶創台灣方案評論 (一)異質整合(heterogeneous integration)是將用不同製程、材料製作的晶片透過先進封裝整合在一起,提升系統功能與表現效能。目前生成式AI及其他的AI應用是用2.5D先進封裝,將GPU晶片與HBM3或HBM3E封裝在一起,以提高頻寬、提高速度。再下個世代的HBM4或許可能採用銅混合鍵合(copper hybrid bonding)的3D先進封裝或者用矽光子以連接GPU與HBM,進一步提高速度和頻寬,這些也都是異質整合和先進封裝的發展方向。  這個技術方向自然是用來支援生成式AI晶片的發展,如果生成式AI的發展方向是正確的話,異質整合的方向也是正確的。異質整合還有自己的重要性,以前ITRS(International Technology Roadmap for Semiconductors)用來標示技術進展的計量是製程微縮的節點,2017年後產業界就用Heterogeneous Integration Roadmap,顯示每年可以被異質整合進封裝的元件種類/形態/功能。這意味著異質整合本身也成為半導體增加經濟價值的驅動力之一。  這個項目中的異質整合技術—特別是與生成式AI高度相關的矽光子與銅混合鍵合—台灣的半導體產業早已提前投入並取得相當成果。  異質整合的晶片設計比以前單一晶片的設計要複雜許多。譬如銅混合鍵合的晶片設計由於上下兩片晶片—譬如GPU與DRAM—尺寸要一樣,而且金屬接點要互相對應,2個晶片的協同設計是基本要求。此時的設計工作會牽涉整個系統而非單一晶片,新的設計輔助工具也是需要的。台灣半導體產業在這方面也提早準備了,譬如聯電與Cadence於2022年初發布完成聯合開發設計工具的消息。  至於人力資源與投資環境的問題,這在台灣已是沉疴,在此只加注一點。  從方案中的人力資源方案來看,顯然政策上已經清楚認知台灣人口基數的長期下降才是目前人力資源不足的主因。這一點是顯著的進步。清楚問題的根源才有機會提出正確的解決方案。  對這個方案有3個基本問題,第一個問題是方案的提出時間。2023年並不是常規的10年科技政策出台的年度,而且此屆內閣即將任滿。於即將任滿的時間制訂一個長達10年的政策,在行政倫理上合適嗎?  第二個問題是經費。10年新台幣3,000億元的經費是個不算小的金額,如果以每年的平均經費來計算,此方案在年度科技總預算的佔比高達30%。這樣的專案預算編列只有2種結果:一是排擠其他常規項目的空間、一是需要增加新預算。如果是增加新預算,長期計劃就要另覓長期的新財源。這些在方案中以及相關的訊息揭露都沒有看到。問題是預算來源到底是那一種?削減其他專案預算?還是要開譬新源,而源頭在哪?  最後一個是關於電力的問題。目前很多的生成式AI晶片設計在效能與節電—散熱之間的選擇,都大幅的傾向追求效能,而將散熱的問題留給製程與封裝去解決,是以連晶片水冷這樣複雜的方案都也列入考慮了。生成式AI很耗電嗎?當初ChatGPT剛問世時,各大雲端伺服器都遭遇耗電驟升的窘況,而那只是淺嘗即止的試用期。  如果這方案真的很成功,在生成式AI晶片的製造應用都順利推展到各領域,算過電力供應要怎麼成長才能支應嗎?這些電力哪裡來? (作者為DIGITIMES顧問)
拿破崙的鈕釦與馬蹄釘
不久前在電影院觀看《拿破崙》(Napoleon)一片,距離上回看拿破崙《滑鐵盧戰役》(Waterloo)一片,已經是五十多年前的事,那時我還在念小學。《拿破崙》演到1812年,拿破崙率領六十多萬以法國為首的大軍,攻打俄國。在嚴寒的冬天一路打到莫斯科,但是因為俄國採取焦土策略,大軍得不到適當的補給而落敗。最後僅殘餘數萬軍隊。此次挫敗也造成拿破崙第一次遭放逐。事後歷史檢討此次作戰失利的原因,當然包括嚴寒、補給,甚至於認為部隊已嚴重感染傷寒。但是好事的化學家,卻提出不同的看法,認為拿破崙在俄國戰敗,原因出在部隊的軍大衣鈕釦。因為大衣鈕釦是用錫所製作的,錫在常溫下可閃閃發光,但在嚴寒下卻會開始裂解,部隊因無法保暖作戰而落敗。結論是擁有軍事天賦的拿破崙,欠缺化學知識。無獨有偶地,15世紀的英國國王理查三世,御駕親征在玫瑰戰役中(Wars of Roses),因為坐騎的一個馬蹄鐵掉落,重摔在地而失掉戰役及一個王國。這個掉落的馬蹄鐵,卻是因為少釘了一個馬蹄釘。這也是拜登(Joe Biden)總統在剛上任時,一手拿著半導體的晶圓告訴媒體,半導體就是美國的馬蹄釘(horseshoe nail),失去一個馬蹄釘,就失去一個王國的典故。如同一顆鈕釦,決定一場戰役。半導體不僅是美國的馬蹄釘,對於世界幾個主要的大國亦是如此,當大國們體認到馬蹄釘的重要時,代表其已經開始失去了。眾所周知,半導體是發源於美國。二次大戰後,美國為了圍堵共產勢力,認為扶持起日本,振興日本經濟,對美國是有利的,當然台灣也獲得美援及美軍協防。Sony創辦人盛田昭夫,在1948年就到了貝爾實驗室,看到才剛發明的電晶體。日本很快地取得美國授權,開始發展半導體產業,之後的70年代,日本製可隨身攜帶的半導體收音機風行於全球。到了70年代初期,當時美國總統尼克森(Richard Nixon)曾說過,一個有歷史的民族,是不會滿足於只當電晶體收音機的製造者。果不其然,日本的半導體產品開始席捲美國的市場,尤其是DRAM,美國廠家紛紛退出。我記得在美國留學期間,參加國際電子元件研討會(IEDM),當時的主流技術幾乎都是由日本公司所發表。美國感受到威脅,祭出針對日本的關稅、反壟斷等商務措施,同時開始扶植南韓。日本半導體產業的衰敗,除了日圓升值、泡沫經濟、未能掌握到數位時代的來臨等因素,但也跟南韓崛起有密切關係。除此之外,美國為了拉攏中國大陸加入西方的民主陣營,以對抗俄羅斯,於90年代中開始,想辦法促成中國以開發中國家加入世貿組織,中國因而受惠於自由貿易,經濟崛起,也獲得不少來自西方的尖端技術。然而,中國還是決定要走不一樣的路,與美國抗衡,也導致近來的科技制裁,尤其在半導體領域。台灣的半導體產業則完全不在美國的戰略架構下,所獨立發展出來的,但是跟美國也脫離不了關係,因為我們的人才養成及技術來源,很多都來自於美國。經過了幾十年的努力,台灣是個擁有半導體馬蹄釘的國家,現在我們忙著到全球各地幫馬匹們釘馬蹄釘,因為這些國家認知馬蹄釘就是國家安全。但是一旦這群馬匹都有了牢固的馬蹄鐵,我們的國家安全是否因此失去保障?事實上,半導體產業是最不需要去客戶端就近設廠,服務國外的客戶,因為半導體本身就沒有關稅,而且又輕薄短小,一個紙箱就可價值數百萬美元。在《拿破崙》及更早的《滑鐵盧戰役》電影中,都描述在滑鐵盧戰役,起初法軍是佔上風的。但在中午過後,拿破崙因為身體不適,一度將指揮權交給副手,因而出了亂子,其所倚重的騎兵大量地損失,再加上敵軍增援部隊的來到而落敗。所以一個公司甚至一個國家,指揮權的轉移是非常的關鍵。我們的馬蹄釘不多,國家安全要有保障。
晶創台灣方案評論 (一)
政府在2023年11月13日公布「晶創台灣方案」。這是一個跨度長達10年的科技政策,預計經費高達新台幣(以下同)3,000億元。  與之前比較缺乏宏觀、整合的科技產業政策相較,這次推出的政策焦點比較集中,投入的時間與力道都很充足。單以經費為例,此方案平均每年經費為300億。300億是什麼樣的概念呢?這是政府每年科技總預算的約30%左右。以這樣的力度執行單一個聚焦的目標,這在近年來的政府科技政策中,近乎異端。  這個方案中只挑揀2個相關的技術目標、2種產業發展環境改善計畫:一、結合生成式人工智慧(generative AI)+晶片,帶動全產業創新;二、強化國內培育環境吸納全球研發人才;三、加速產業創新所需異質整合及先進技術;四、利用矽島實力吸引國際新創與投資來台。 第一個目標是生成式AI晶片及其於各產業、生活、工作環節的應用,這個是整個方案的重心。AI晶片興起的勢頭毋庸置疑,NVIDIA以及其他公司各式加速器是2023年半導體情勢欠佳下的救贖之一;與之搭配的高頻寬記憶體 (HBM)同樣在2023年一片愁雲慘霧的記憶體市場中一支獨秀。 但是,此恰恰說明計畫的前瞻性稍嫌不足。如果這是已經明確的現代進行式趨勢,政府的長期計畫要搶先早個3、5年;如果這真是一個長期趨勢,起步雖晚,亡羊補牢尚有可為。目前最頂尖的應用—在伺服器上執行生成式AI—硬體卡位已近完成,生成式AI晶片由NVIDIA獨佔鰲頭,另外還有如超微(AMD)等大廠;應用相關的主流記憶體HBM3E也由SK海力士(SK Hynix)佔半數、三星電子(Samsung Electronics)居次。  目前這類晶片開發所需的資源、HBM的取得、先進封裝所需的產能、與系統廠商的結盟等能力,連有些大的IC設計公司都難以企及。這是一個門檻極高的領域,新創可以存活的生態區相當狹窄。  晶創台灣方案「主要運用我國半導體晶片製造與封測領先全球的優勢,結合生成式AI等關鍵技術發展創新應用,提早布局台灣未來科技產業,並推動全產業加速創新突破。」如果策略是依靠台灣的製造晶片能力來發展應用,用雲端伺服器來提供GenAI算力的這領域不太靠譜。晶片製造與封測只是其中一個中間環節,離應用端太遠了。生成式AI是每個領域都會自發性投入的新技能,應用後有機會提升自己在產業中的競爭力。但是發展出應用後要將此應用轉換成新的產品機會不太大,畢竟使用雲端生成式AI算力的應用,還未能有足夠數量跨入獲利門檻,以此營利的機會不大。在既存大公司專注之外的生成式AI市場當然也存在,譬如ASIC或IP—特殊應用或客製化的應用,這是許多新進者比較容易入手並且持續存活的生態區;大公司食之無味,小公司已夠溫飽。 進入這個領域就比較有機會觸及應用端的發展及商業化。 像生成式AI這樣的應用,即使是較小型的模型—譬如在手機上可以使用的LLaMA-7B大型語言模型,所使用的參數數目也高達70億以上。  在市場強烈的競爭下,很難想像即使是特殊用途、客製化的生成式AI,雖然參數較少,卻可以使用不是尖端製程的邏輯晶片和HBM。而且,特殊用途和客製化的GenAI一般和系統的連結性極強,也毋怪有些較大型的IC設計公司自己定義為系統公司。其實很多系統公司也將業務延伸至IC設計公司,以確保公司的核心能力掌握在自己的手中。之前已有很多先例,特別是在手機和電動/自駕車的產業。生成式AI是一個需要極大資源投入、高度整合上下游的新興領域,即使是其中的特殊應用、客製化的次領域。新創IC設計公司在這個領域發展機會不大。 即使要既存的、有規模的系統公司或IC設計公司投入此快速發展領域,政策的意向還要輔以配合的作為,譬如建立上下游協作平台、是否協助建立國際統一標準等手段。在目前已揭露的政策宣告,看不到這些必須的關鍵、詳細作為。  對於跨度長達10年的長期計畫,這是嚴重缺漏。