DNN推論應用從雲端擴及邊緣端 手機為主要動能 低精度運算效能提升為業者競逐重點
DIGITIMES Research觀察,深度神經網路(Deep Neural Network;DNN)邊緣推論晶片市場規模可望大幅成長,智慧型手機為主要動能。現行高階4G與所有5G智慧型手機系統單晶片(SoC)中皆含有DNN加速單元(accelerator unit),為有效提升DNN加速單元性能,量化(quantization)模型壓縮(model compression)技術為高通、海思與聯發科等手機應用處理器(Application Processor)設計業者競爭重點,現階段8位元整數(INT8)運算的量化技術已臻成熟,今後將朝4位元整數(INT4)技術前進。
內文目錄
供給與需求面推波助瀾下 DNN推論應用從雲端擴及邊緣端
手機為邊緣推論應用主要成長動能 MobileNet模型發展為關鍵
8位元整數推論已臻成熟 低精度運算為業者競爭重點
結語:軟體與模型生態系日益完備 為手機DNN加速單元性能提升助力
圖表目錄
硬體、軟體與演算法三方優化 使Edge AI推理成為可能
2017~2024年全球雲端與邊緣端訓練、推論晶片市場規模預測
2016年起手機DNN加速單元演進史
2011~2019年代表性DNN模型準確度高低與運算量大小比較
共 5 個圖表
會員登入
若您已是DIGITIMES Research的正式會員,請由此下方登入。
服務加入辦法
若想立刻加入付費會員,請洽詢
客服專線:
+886-02-87125398。
(週一至週五工作日9:00~18:00)
+886-02-87125398。
(週一至週五工作日9:00~18:00)