【高速運算應用-學研之星】HarDNet類神經骨幹網路成功開發 深耕AI加速器硬體技術

清華大學資工系林永隆教授(右8)與團隊成員

科技部的「半導體射月計畫」一共有17個團隊獲選，其中人工智慧硬體加速器的發展，有了嶄新又令人雀躍的成果發表，這個為期四年由清華大學資工系林永隆教授所領導的深度學習加速器硬體技術專案，技術團隊除了清華大學之外，還網羅交通大學與中原大學，一共6位教授，並帶領30位研究人員，已進行約兩年半的時間，於11月18日在科技部召開記者會，並由各團隊成員做現場的成果展示。

林永隆教授接受訪問時，清楚的指出該計畫是要做一個更快速、更準確、更省電與更安全的硬體加速器技術，同時在GPU、CPU、FPGA甚至是MCU的跨平台系統下皆可部署，如此一來才能大量普及，這個新開發的高效率CNN網路的架構稱為「HarDNet」。其改良了傳統網路的架構，減少架構中的捷徑連結，來降低記憶體搬運次數，藉此達到提升運算速度的效果，且同時能維持高辨識準確率，目前在影像辨識、物件識別、特徵診斷等領域，展現強大的效益，當初為了找出技術的突破瓶頸時，在研究過程中，發現從網路基礎架構上著手改善，自此有了全新的出發點。

HarDNet形塑更快速、更準確、更省電與更安全的硬體加速器技術

今時HarDNet所展現的效益，超越知名的DenseNet或ResNet的網路架構，尤其搭配諸如SSD、RFB、CenterNet等演算法，能更快更準確地執行影像的圖像分類 (Image Classification)、圖像語義分割 (Semantic Segmentation)，以及物件偵測與追蹤(Object Detection/Tracking)等廣泛的應用與功能，目前的技術團隊已成功將HarDNet應用於包括GPU、智慧型手機(CPU/DSP)、Raspberry Pi與FPGA的運算平台上。

林永隆團隊將HarDNet放在開源軟體平台如GitHub上分享各界使用，推廣到全球，目前該團隊提出13項專利申請，其中已經有5項獲得專利，同時初步獲得新台幣400萬元的技術移轉收入，在論文提交上的斬獲也不遑多讓，在AI學術界的頂尖會議如ICCV、AAAI、ICML等發表多篇成果。

這個專案開發需要龐大且反覆的CNN骨幹網路進行訓練模擬，透過國網中心的TWCC (Taiwan Computing Cloud)高速運算資源，以高性能GPU且同步運算方式，讓CNN網路的運算與驗證效率大幅改善，TWCC平台提供珍貴的資源，貢獻重要的價值，讓研發團隊可以快速掌握進度。

加速台灣AI新創公司的成立，期待2021年正式產品上市初試啼聲

這些現場展示的平台中，可以看到HarDNet新型網路架構做為骨幹網路的效能，提供在GPU、FPGA、Raspberry Pi、LG G8 智慧型手機等不同的硬體平台上都展現一致性的高效率與省電的強大優勢，林永隆教授認為學術團隊的全方位合作，搭配科技部與國網中心投注的資源，成就一般方法所做不到的成果，同時透過開源軟體的開放學習與自由創意的研究氛圍，讓這個計畫具有長遠的發展契機。

目前已經有團隊內先期研究人員透過技轉而成立的「創鑫智慧」新創公司，其首批開發的矽智財將整合於SoC晶片中，初步以高階智慧語音辨識與處理的應用，即將於2021年中將在市場上初試啼聲，未來與產業界的互動將會更為密切積極，讓HarDNet技術可以為台灣產業界做出更大的貢獻。