邊緣 AI：即時資料處理與自動化的革命

從Alexa、Google和Siri等智慧家庭助理，到汽車偏離車道時通知駕駛的先進駕駛輔助系統（ADAS），這些越來越常見且更加重要的裝置倚靠邊緣AI提供即時處理能力。邊緣AI在裝置內直接運用人工智慧，其運算位置靠近資料來源，而非具有雲端運算能力的異地資料中心。邊緣AI能縮短延遲時間、加快處理速度、降低持續連網的需求，並減少隱私方面的疑慮。這項技術代表資料處理方式的重大變革，而隨著世界對即時智慧的需求升高，邊緣AI將繼續在許多產業發揮強大影響力。

邊緣AI最重要的價值是能為關鍵應用提供出色的速度表現。有別於雲端／資料中心AI，邊緣AI並非透過網路鏈路傳送資料，及期待在合理時間內獲得回應。反之，邊緣AI在本機執行運算，因此具有優異的及時回應能力。邊緣AI能應付許多情況，例如在工廠作業中線上執行機械視覺應用，以及一秒內迅速得知產品可能轉移。同樣地，沒有人會希望汽車根據雲端網路或伺服器的回應時間來發出訊號。

運用邊緣 AI 進行即時處理

許多即時活動使得人們越來越需要邊緣AI。這項技術的常見用途如智慧型家庭助理、ADAS、病患監測和預測性維護等應用。無論是快速回應居家問題、在汽車偏離車道時發出通知，或是將葡萄糖讀數傳送至智慧型手機，邊緣AI能迅速做出回應並將隱私疑慮降到最低。

邊緣AI在供應鏈領域發揮奇效，多年來有目共睹，尤其是在倉儲及工廠。過去十年內，這項技術在運輸業的運用也相當可觀，例如送貨無人機在穿越雲層等條件時。此外，邊緣AI正在為工程師成就大事，尤其是在醫療科技此一關鍵成長領域。 例如，開發心律調節器和其他心臟裝置的工程師，能為醫生提供可尋找異常心律的工具，指引何時應尋求進一步的醫療介入。醫療科技將持續使用越來越多的邊緣AI，並建置更多能力。

生成邊緣AI模型

日常生活中有越來越多系統現在都與機器學習有一定程度的互動，因此工程師和開發人員務必要瞭解這個領域，才能規劃與使用者互動的未來。

ML技術是邊緣AI最強大的發展機會，此技術根據統計演算法進行模式匹配。這些模式可能包括感測到有人在場；感測到有人剛說了某個詞彙喚醒智慧家庭助理，例如「Alexa」或「嘿，Siri」；或感測到馬達開始晃動。對智慧家庭助理而言，喚醒詞是一種在邊緣執行的模型，不需要將語音傳送到雲端。即可喚醒裝置，讓裝置準備好接收進一步的指令。

ML模型有幾種生成方式，可以使用TensorFlow或PyTorch等整合式開發環境，也可使用Edge Impulse等 SaaS平台來生成。建構良好的ML模型時，大部分的「心力」都集中於建立具代表性的資料集和妥善標示此資料集。

目前，監測式模型是邊緣AI最流行的ML模型，此模型根據標示和標記的樣本資料進行訓練，其中輸出是一個可供檢查是否正確的已知值，如同老師全程查看和訂正作業一樣。這種訓練通常用於分類工作或資料迴歸等應用。監測式訓練雖然可能很實用且準確性高，但非常依賴標記的資料集，也可能無法處理新的輸入。

執行邊緣 AI 工作負載的專用硬體

DigiKey是實作邊緣 AI的得力助手，因為這通常在微控制器、FPGA和單板電腦上執行。DigiKey與供應商合作，提供數代在邊緣處執行ML型號的硬體。今年發表了幾款出色的新硬體，包括NXP的MCX-N系列，很快也會備妥ST Microelectronics的STM32MP25系列。

過去幾年，來自創客社群的開發板因執行邊緣AI而廣受歡迎，包括SparkFun的邊緣開發板Apollo3 Blue、AdaFruit的EdgeBadge、Arduino的Nano 33 BLE Sense Rev 2和Raspberry Pi 4或5。

神經處理單元目前在邊緣AI領域取得進展。NPU是一種專用IC，旨在加速處理以神經網路為基礎的ML和 AI應用；其結構以人腦為基礎並含有許多互連層，以及負責處理和傳遞資訊的節點。目前打造的新一代 NPU具備專屬數學處理能力，包括NXP的MCX N系列與ADI的MAX78000。

邊緣裝置也出現專用的AI加速器產品，該領域尚未獲得定義；著名的開拓先鋒包括Google Coral和Hailo 公司。

ML感測器的重要性

搭載ML模型的高速攝影機在供應鏈領域行之有年， 用途包括決定將產品送到倉庫內何處，或是在生產線中找出瑕疵品。 供應商目前正在建立低成本的AI視覺模組，這種模組能執行ML模組以識別物體或人類。   

雖然執行ML模型需要搭配嵌入式系統，但未來將會持續推出AI賦能型電子元件，包括AI賦能型感測器，又稱為ML感測器。雖然多數感測器加入ML模型後並不會為應用帶來更高的效率，但ML訓練能讓幾種感測器的運作方式變得更有效率得多：攝影機感測器，其中可開發 ML 模型來追蹤畫面中的人和物體，IMU、加速計和動作感測器，用於偵測活動概況。

某些AI感測器預先載入可隨時運作的ML模型。舉例來說，用於感測人體的SparkFun評估板經過預先編程，能偵測人臉並透過QWiiC I2C介面回傳資訊。Arduino Nicla Vision或Seeed Technology OpenMV Cam H7等幾款AI感測器更具開放性，且需要為其尋找的東西準備訓練的ML模型。

利用神經網路提供運算演算法，便能在人和物體進入攝影機感測器的視野時加以偵測及追蹤。

邊緣AI的未來

隨著許多產業日漸發展且越來越依賴資料處理技術，邊緣AI將越來越普及化。隨著達到更快、更安全的裝置資料處理能力，邊緣AI將出現巨大創新突破。我們認為有幾個領域日後很快將會壯大，包括：一、運算神經網路演算法的專用處理器邏輯。二、低功率替代方案的發展 (雲端運算的能源消耗量相對較龐大)。三、更多整合式／模組選擇，像是結合內建感測器和嵌入式硬體的AI視覺零件。

隨著ML訓練方法、硬體和軟體的進化，邊緣AI將能呈指數成長，並為許多產業提供支援。DigiKey努力掌握邊緣AI趨勢脈動，期盼以豐富的解決方案、流暢互動體驗、工具與教育資源，支援全球的創新工程師、設計人員、製造商和採購專業人士，為其提高工作效率。想深入瞭解邊緣AI的資訊、產品和資源，歡迎造訪 DigiKey.com/edge-ai。（本文由DigiKey技術行銷工程師Shawn Luke提供，DIGITIMES吳冠儀整理。）