嵌入式系統導入AI元素  關鍵仍在應用落地與技術升級

AI的發展對嵌入式系統的應用升級帶來相當大的益處，不少業者已積極布局，為客戶解決實際場景的疑難雜症；為一窺產業當前發展全貌，DIGITIMES於3月上旬舉辦嵌入式系統開發應用論壇，就相關的系統與晶片發展狀況進行完整探討。DIGITIMES攝

嵌入式系統在產業上的發展由來已久，從晶片、軟體到系統端，無不與嵌入式系統有所關連，從應用領域來看，如工控、智慧工廠與智慧城市等垂直應用，也多與嵌入式系統脫不了關係。另一方面，AI近年來的發展已有一定的成熟度，對嵌入式系統的應用升級帶來相當大益處，且早有不少業者積極布局，為客戶解決諸多實際場景的疑難雜症。為能一窺近年嵌入式系統產業發展的全貌，DIGITIMES日前舉辦嵌入式系統開發應用論壇，就相關的系統與晶片發展狀況進行完整探討。

學術界師法自然，提升AI運算效率表現

在學術研究領域上，國立清華大學電機工程系教授鄭桂忠表示，清大有一個AI晶片團隊，成立已有十幾年時間，研究內容包括嗅覺系統，就是俗稱的電子鼻，以及視覺系統，並聚焦在AI晶片的開發上；在與國科會討論之後，決定將近年來的研發成果進一步以微型無人機作為應用的平台。

隨著AI模型的日新月異，與需要的算力不斷提高，近期業界的討論，開始探討Neuromorphic Computing(神經型態運算)相關的硬體未來可以怎麼發展。鄭桂忠話鋒一轉，他以自然界的昆蟲為例，如蚊子，人類要想打到牠可說相當困難，但蚊子本身的腦容量極為有限，卻能閃過人類的攻擊，若能將蚊子本身所擁有的智能模型嵌入至微型無人機上，並將載重、效率等因素考量進去，這樣子的設計概念，對於相關應用的發展或許會是相當大的突破。

進一步來看，箇中關鍵主要有三：模型、架構與感測器。在模型訓練上，嘗試以昆蟲為師，在昆蟲以有限的神經元處理避障工作這件事上，找出合適的AI模型。架構方面，則是希望打破過往處理器與記憶體之間的資料搬運設計，減少記憶體能與處理器之間的距離，甚至是採用in-memory computing，減少不必要的搬運工作，藉此提升運算效率。最後一個關鍵則是感測，鄭桂忠教授直言，以人類的視網膜來說，所看到的成像再傳到大腦的資訊，其實很多已經是經過處理之後的資料了，這些資料僅保留變動部位或外框架資訊，如此一來大腦所要處理的資料量也能大量減少，而清大團隊所著力之處，就是依據這三個關鍵進行研究與開發。

AI落地需因應實際場景，也需思考個資隱私問題

帝濶智慧總經理兼共同創辦人鄒耀東則是從資料安全與隱私角度出發，探討嵌入式系統在AI功能發展下，業者如何兼顧個資安全與隱私問題。鄒耀東談到，AI的發展與衍生的應用服務，無不與資料的取得有密切關係，唯有如此才能加速AI模型的生成，但與此同時個資隱私問題也伴隨產生，這是個取捨議題。

且不論是移動終端或是嵌入式系統的開發，都有資安風險存在，一旦發生，衍生的賠償問題甚至連公司商譽都可能受到相當大損害，因為消費者或是企業客戶根本無從知道，自身所產生的資料會流竄到什麼地方？被何人所使用？所以對系統開發者來說，這是需要審慎思考的議題，而帝濶智慧以差分隱私技術開發出數據與人臉影像隱私保護解決方案，其中影像的去識別化技術能在影像取得的第一瞬間即進行處理，讓肉眼難辨，卻不影響電腦識別的準確度，能兼顧個資隱私與AI模型訓練的發展，讓人臉辨識等應用服務的商業模式能持續發展。

安提國際Jetson產品事業部負責人林宏達則是以邊緣AI落地為題，嘗試以軟硬體整合的角度出發，來探討嵌入式邊緣AI系統在部署上，會遇到什麼樣的難題。林宏達指出，在AI推論端的系統上常會遇到兩個問題，一是系統的部署，二是推論功能該用什麼平台來實現？安提國際是宜鼎的子公司，主要以NVIDIA的軟硬體解決方案協助客戶達成邊緣AI的落地應用，硬體方面以NVIDIA的嵌入式Jetson系列解決方案與顯示卡產品為主，軟體方面則有NVIDIA TAO、Fleet Command與Triton Inference Server為主。

林宏達談到，如果客戶所面臨的場景是智慧城市或是分散式網路，勢必會面臨大量的邊緣系統的建置，隨之延伸的就是要如何縮短部署成本，以及該如何進行大量的系統更新。而在AI推論系統的設計上，除了有NVIDIA的解決方案外，若客戶想導入ASIC為基礎的系統，安提也能提供對應的支援，同時滿足系統的遠端除錯需求，來減少不必要的時間成本。

凌華科技智能視覺事業中心解決方案技術主任洪靖哲則是進一步延伸邊緣AI的議題，分享AI視覺在諸多垂直應用場域的實際案例。洪靖哲以台灣某一中小代工廠為例，該公司曾因為出貨給國外車廠的料件出現短缺，造成該公司必須按約賠償，該公司當時是以傳統人力來進行料件包裝的檢查，但人工作業總會有疏失與疲勞的情況，後來在導入AI視覺技術之後，就解決此一問題。洪靖哲強調，AI的導入並不是要取代傳統人力，而是要讓人力去處理更有價值的事情，讓AI處理重覆且又能精確判斷的工作，如此分工才能獲取最大的價值。

除了凌華科技在AI視覺有所布局外，宜鼎近年來也相當積極，以AMD旗下的FPGA方案為基礎打造AI視覺解決方案。宜鼎國際嵌入式周邊部資深專員陳聿揚談到，雖然市場普遍對宜鼎的印象是儲存方案領導業者，但在AIoT的布局上其實相當完整，除了子公司安提國際以NVIDIA的軟硬體方案打造邊緣AI系統之外，宜鼎本身就有完整的工業級攝影鏡頭模組方案，旗下的各個子公司也有提供通訊模組與環境感測解決方案，此外也有完整的軟體開發套件對應微軟與Linux等作業系統。整體而言，是以FPGA為其核心，串聯宜鼎的軟硬體方案，軟體面可充分開發不同的應用程式與多元的AI模型，同時也備有不同的模型庫可供客戶使用。

垂直應用吸引中國儲存業者進軍，研華亦布局電子紙多元場景

在工業與車用儲存領域，近期江波龍電子也開始推出許多產品線，搶食宜鼎與宇瞻等大廠的市佔率。該廠商為中國業者，2017年收購美光旗下的消費性品牌雷克沙(Lexar)之後，讓江波龍的儲存產品布局更加完整。江波龍電子產品客戶經理黃健興指出，在垂直應用領域，江波龍的旗下品牌為Foresee，鎖定工業、伺服器與車用等應用。

記憶體方面，三大主要記憶體業者都是主要的供應商，控制晶片則有慧榮等業者，讓江波龍得以專心開發韌體與後端的模組測試，藉此提高自身產品競爭力。黃健興透露，江波龍設有品質與測試工廠，後端產線設備具備相當程度的規模，同時也能滿足車規AEC-Q100的認證測試，也因此江波龍已在2022年推出車用eMMC產品線，目前已經送到中國主要車廠進行認證測試。而在台灣工業電腦市場，江波龍也相當積極，預計明年就能看到初步的成果展現。

研華業務處業務副理鍾翊達，則是分享研華在電子紙的佈局。研華現階段在電子紙的顯示尺寸的產品線相當完整，從2.9吋到31.2吋都有供應，加上研華本身也有無線網路閘道器，所以可以滿足各種應用場景，如智慧工廠與智慧城市等；如果需要遠端更新也相當容易，從4G、藍牙、Wi-Fi與NFC等無線網通技術，研華皆能支援，在場景應用上已相當成熟。

MCU、MPU與無線連網，仍是嵌入式系統重要關鍵

談到嵌入式系統的應用開發，仍然少不了主要半導體大廠在軟硬體解決方案的投入。眾所皆知，意法半導體在MCU(微控制器)領域向來扮演領導角色，在眾家MCU業者中，也是少數有提供搭載GPU硬體加速器的廠商之一，其主要目的就是要深化顯示介面相關應用的市場基礎。意法半導體亞太區產品行銷經理張世昌表示，意法的MCU廣泛支援不同的顯示器介面與記憶體規格，因為如果要擴充多元的顯示應用，記憶體的外掛擴充勢不可免，如此才能讓整體系統運作穩定。綜觀意法旗下的MCU產品線，目前有支援GPU顯示的大致可分為四類，一是意法推出有一段時間的MPU，另外三類則全為MCU產品線，依其產品功能與擴充能力的有無高低分成三種型號，其中像是近年推出的STM32H7與U5，已經可支援到2.5D的顯示功能，為顯示能力的最高級別。

在MCU之外，意法半導體在NFC相關的嵌入式領域也著墨甚深。NFC/RFID策略行銷經理黃鐙誼談到，NFC之所以重要，原因在於該技術本身就具備電力傳輸的規格，在傳輸資料時也無需消耗任何電力，更無需任何配對程序，所以相較於藍牙或是Wi-Fi等常見無線技術，NFC仍然有其發揮的舞台與空間。

此外NFC也具備NDEF(NFC Data Exchange Format)功能，讓裝置間進行資料交換的同時，無需安裝任何應用程式，對於使用者來說，可以大幅提升其易用性。黃鐙誼透露NFC無需應用程式的原因，在於常見的作業系統如Android、iOS與Windows 10等，都已經支援NDEF功能，以智慧型手機來說，就可以直接讀取並啟動該檔案，因此便利度上並不亞於前述談到的其他連網技術。

德州儀器嵌入式處理器產品經理Rich Chen指出，過去台灣市場對於德儀的嵌入式處理器產品主要印象以Sitara處理器為主，近年則新開闢一條MCU產品，鎖定高性能應用場景，目前以搭載雙核的Cortex-R5F CPU為主，未來也會朝更多核心數量，或是導入M85、R52等最新等級CPU規格的方向發展。而在車用領域，德儀的耕耘也沒有間斷，除了過去的車載資通訊領域外，在ADAS領域，德儀車用處理器的總出貨量累積超過1.3億顆，居於市場龍頭地位。

德儀目前的嵌入式處理器產品大致上分成四類，分別為泛用型、網通、DSP(數位訊號處理器)與分析類別，最後一類主要因應近年AI需求高漲，應對不同算力需求，搭載對應的AI硬體加速器，算力範圍為1TOPS到32TOPS之間。

Silicon Labs FAE經理林仕文則是聚焦近年所興起的Matter技術，就該技術的發展進行探討。林仕文指出，儘管物聯網發展已有相當長一段時間，但礙於各大聯盟與技術陣營的門戶之見，造成消費者在終端產品之間的互通互連上有著相當大的障礙，Matter的面世就是希望解決此一問題。Matte針對方便性、互通性、可靠度與資安等四個面向展開，進一步統合Wi-Fi、Thread、BLE、Ethernet等，就網路堆疊中的應用層加以統一，省去開發者在網路底層開發的負擔，進一步加速該技術的普及與滲透率，目前已在2022年10月推出1.0版本，預計近期就會推出1.1版本，好讓各個陣營能有依歸。

最後，歐尼克斯實境互動工作室許哲豪以MCU出發，探討如何用MCU實現TinyML微型電腦化視覺。廣泛來看，MCU本身的運算能力與記憶體資源相當有限，要實現電腦視覺相對不易，但以Arm陣營來說，不論是Arm、意法半導體與恩智浦都有提供對應的開發軟體與套件，讓工程師能在Arm平台上進行相應的開發，與此同時，MCU的發展路徑也從核心數量增加、時脈頻率升級與NPU的導入，讓MCU處理AI運算工作變得更加容易。