創鑫智慧：切入專用晶片市場，推薦模型AI加速器領先大廠

從人工智慧（AI）AlphaGo打敗世界棋王，轟動全世界後，著眼於AI的應用範圍愈益擴大，更需要大量運算。成立短短四年的創鑫智慧（NEUCHIPS） ，為當地AI運算加速器IC設計公司，研發利基AI加速晶片，在董事長林永隆帶領團隊下，歷經3年艱辛的疫情，研發成果在2023年迎來當地外關注，在AI的浪潮下，其專用晶片內建專利壓縮技術，大幅降低記憶體需求，仍保有高準確度、超低功耗，不讓AI大廠輝達 (NVIDI) 專美於前，更是當地第二家投片台積電7奈米的IC設計商。

AI發展擴大，運算需求以千倍增加

在科技部射月計畫的鼓勵下，創鑫智慧於2019年在清大育成中心成立，由創辦人清大資工系教授林永隆擔任董事長，專研於AI運算的IC設計，在成立的第二年就推出全球首個深度學習推薦模型 (DLRM)：RecAccel™。

林永隆分析產業趨勢，從人臉、語音辨識，再到2022年底ChatGPT的問世，AI運算的需求，從10的9次方增加到10的12次方，短時間增加1000倍，「從晶片設計與軟體優化才能解決運算需求的激增，對創鑫智慧而言有很大的市場機會。」

不過，他坦言挑戰不小，因為「全世界都看得到機會，競爭者眾，」他話鋒一轉指出，不能因為挑戰大而不去做，科技部向來鼓勵大學師生從事頂尖一流的研究，他們團隊的頂尖研究量能是一項優勢。

再加上台灣半導體生態鏈完整，從IC設計、製造到IP provider，分工較細，對一家規模相對較小的新創團隊來說，是另一項優勢。

切入AI ASIC利基市場，能效優於大廠
在競爭者環伺下，林永隆抓準客戶希望「俗擱大碗」的需求，希望產品是高效能與低耗能，他們不走通用晶片的路徑，切入AI ASIC（特定應用積體電路）市場，提供最優的能效。

舉例來說，以前電腦或筆電可以有播放光碟片的功能，但其晶片價格不斐，後來DVD Player，其晶片設計屬於專用晶片，相對低廉；以往挖礦的晶片，過於耗電，報酬不敷電費成本，爾後產生的專用晶片，可降低能耗。

「讓AI運算加速的晶片，原理和挖礦的專用晶片一樣，我們要考慮到購置、營運成本，ASIC可以做得比較好，是否能研發出效能跟得上市場腳步的專用晶片就要看各家本事，」林永隆說明。

創鑫智慧的團隊超過50人，在資深IC設計及軟體設計的專家團隊開發下，2023年傳來好消息。

根據MLCommons（開放式工程聯盟）公布的測試數據，在資料中心推薦系統領域，創鑫智慧RecAccelTM N3000系統，除了展現其100%的效能擴充性（Performance Scalability）外，在每瓦可處理1060次查詢的評測上，能效是對手NVIDIA H100的1.7倍，高居榜首。

另外的好消息是，在技術團隊為礎石下，創鑫智慧延攬曾任台灣英特爾總經理的劉景慈擔任執行長，進一步深化與市場需求間的連結，可說是如虎添翼。

鼓勵當地新創，走向國際舞台

曾有創業經驗的林永隆，對於喜歡的事情充滿熱情，勇往直前，自稱第二次創業是帶領一批「敢死隊」，第二年面臨新冠肺炎疫情，整整三年的防疫期間，充滿不確定性。防疫期間雖然風聲鶴唳，但因為「哪裡都去不了，反而更專心研究AI加速專用晶片。」

辛苦的研發終獲甜美的果實，除了某個特定應用的晶片（推薦模型）能效超越NVIDIA，引起外界關注；創鑫智慧參加2023年的TIE Award，在半導體組榮獲第二名佳績，展現國人研發的堅強實力，除了推薦模型，也將展示用大型語言模型（LLM）來訓練ChatGpt的成果。

林永隆充滿信心地說，公司已陸續接洽伺服器、系統等相關廠商，「創鑫智慧是全世界少數可以將這些令人印象深刻的研發成果展現出來的公司，希望能藉由展覽會吸引當地外廠商下訂單。」

同時，他樂見政府鼓勵學校成立新創團隊，尤其TIE Award為國際性獎項，開放國外公司參賽，讓當地新創團隊站上國際性舞台參賽，相互激盪，亦有利於產業發展。

欲瞭解更多，歡迎各專業人士於10月12日~14日蒞臨世貿一館「2023 創新技術博覽會-未來科技館」，並點此報名參加TIE Award商機媒合會。