AI與物聯網趨勢並起 翻轉嵌入式設計思維
- 洪千惠
-
有別於一般泛用型的PC架構，嵌入式系統的定義，是為特定用途所設計的IT系統，近年來嵌入式在特定領域的發展加速，與過去相較，無論是深度或廣度都有長足進展，主要原因除了IT技術本身的精進外，應用產業不斷拓展出新的功能需求也是主因，尤其是應用面，在市場競爭日益激烈的態勢下，無論是消費性或非消費性設備供應商，都必須善用IT技術力量，強化本身競爭力，因此嵌入式系統的市場需求與日俱增，而在需求與供給雙方相互拉抬下，嵌入式產業的發展來到史上高峰，未來幾年在AI與物聯網的驅動下，預計將持續成長。
AI是2017年IT產業的焦點議題，多數研究機構與產業都認為AI不但會與嵌入式系統整合，而且在部分應用中，具有AI功能的嵌入式設備將串聯成物聯網架構成為AIoT系統，而AIoT系統中，不僅上層的雲端平台會具有運算能力，終端的嵌入式設備，甚是設備中的元件，也都會有一定程度的AI設計，進而形成龐大商機，也因此目前各大晶片商都早已開始投入AI晶片的布局。
AI晶片在嵌入式系統的應用相當廣，從數據中心、終端設備(智慧手機、平板電腦、穿戴式裝置...等)、垂直特定產業(製造、交通、醫療...等)，都將是目標市場。投入的廠商也眾多，以架構來看，浮點運算、同步並行運算非常適用於人工智慧的深度學習神經網絡，因此具有這些特點的GPU，也成為這波AI熱潮的重要運算架構。
但在此趨勢中CPU也未缺席，尤其是Intel在2017年中分別推出獨立AI加速器Movidius Neural Compute Stick與Myriad X視覺處理器(Vision Processing Unit；VPU)，前者內建了Myriad 2視覺運算單元，在1瓦電力下可完成每秒1,000億次浮點運算，後者則是全球第一個配備神經運算引擎(Neural Compute Engine)的系統單晶片，可用於加速產品端的深度學習推理。
除了兩家處理器大廠，Google也在2017年推出客製化的ASIC AI晶片TPU，專為機器學習設計，Google的TPU主要用於改善搜尋結果的相關性與提高Google街景服務地圖和導航功能正確度，由於TPU是專為特定用途設計的特殊規格邏輯IC，只執行單一工作，所以速度更快，但缺點是成本較高。
除了GPU、CPU外，其他處理架構如FPGA、DSP等廠商，也都積極投入AI市場，而就發展來看，仍未看出那一類運算架構會成為市場主流，伺服器的應用目前仍以CPU為主，不過現在NVIDIA也開始跨入發展，至於終端嵌入式設備市場，無論是體積、功耗、價格，其市場需求都比伺服器更嚴苛，因此難度會更高，不同的應用會需要不同運算架構，因此未來處理器在嵌入式終端市場的應用將更為多元，不會出現一家寡占的狀況。
加速物聯網佈建 元件走向智慧化
除了AI之外，物聯網也會是未來嵌入式系統的重要發展，物聯網概念在IT產業已將近10年，雖未如當初研究機構出現爆發性成長，不過已陸續有產業導入，在物聯網架構中，嵌入式設備主要應用於底層，像是零售業的POS、醫療業的手持式平板電腦、製造業的工業電腦...等，這些嵌入式設備過去多為獨立式運作，即便有連網功能，也都僅與上層架構鏈結，傳送系統運作資料，設備之間彼此並未連結為綿密的物聯網架構。
近年來物聯網概念逐漸普及，在多數產業導入後，過去制定的物聯網架構開始因應企業實務運作轉型，就目前發展來看，架構在物聯網底層的嵌入式設備，將會有兩大改變，包括快速導入和智慧物件。
在快速導入部分，過去系統中的設備數量少，系統建置並不難，但物聯網系統號稱萬物皆連，大量擷取第一線設備的訊號，累績成大數據後，讓上層的雲端平台的運算更趨精準，因此在物聯網系統中，第一線設備的部件相當重要，在消費性領域如智慧家庭，其設備可以逐步連結，但在地域龐大像是大型醫院、工廠等，其連結的嵌入式裝置數量有可能上達千台，要在一定時間內佈建，其難度相當高，尤其是較舊的機台，要將感測訊息連上網，更對系統人員帶來嚴苛挑戰。對此困境，舊型設備必須藉由外接模組與上層鏈結，機型較新的嵌入式設備，則多已有連網功能，現在物聯網仍多使用3G、4G、Wi-Fi等通訊技術，要連結上網並不難，但如何讓傳回的資料具正確性，就必須靠智慧物件的設計。
智慧物件的設計有兩部分，包括邊緣運算和元件AI化。邊緣運算是讓位處系統終端的嵌入式設備有一定運算能力，設備先行預處理過數據後，再將結果傳回雲端平台，邊緣運算除可降低後端處理器的工作負載外，前端整理過的數據量也會大幅減少，若是採用3G、4G等通訊技術的系統，就可降低傳輸費用。元件AI化則是讓嵌入式設備內的零組件如儲存裝置、人機介面等，具有AI功能，使其可偵測設備狀態，提升系統運作效率，例如播放高畫質影音檔案時，儲存裝置可從資料的讀取次數，運算出運作模式，進而調整設備狀態，預先處理讀取磁區，使整體系統運作更穩定且快速。
AI與物聯網是近兩年嵌入式領域的重要趨勢，而業界多認為這兩者將會快速整合，翻轉過去IT架構的功能走向，在此態勢下，無論是單一設備或整體系統，嵌入式設計者必須有全新思維，一直以來嵌入式系統的設計都以市場需求為設計導向，在AIoT時代，系統使用思維將全部翻轉，設備內部的元件功能更細更具智慧，外部的系統整合則必須更緊密且多元，如此方能因應新世代的市場需求，設計出最佳化嵌入式系統。
