深度學習加深嵌入式系統朝向智慧化的發展

  • 魏淑芳
FPGA廠商顯然也摩拳擦掌競相投入資源,將可程式設計邏輯與ARM的Mali-400 GPU核心整合在新一代SoC晶片上,該系列產品中還包含支持H.265和HEVC標準的視訊編碼模組,對於嵌入式視覺(Embedded Vision)技術的投資,也早已進入兵家必爭之地。(Xilinx)

DIGITIMES企劃

由於大數據分析(Big Data Analytics)與人工智慧(AI)技術的推波助瀾,使得更多的智慧型裝置與嵌入式系統不斷的推陳出新,進入高速發展的階段,人工智慧與機器學習(Machine Learning)儼然形成一個成長快速的利基,除了幫助企業自動執行較單調的例行事務之外,也可透過分析數據,發現原本未見的趨勢,一舉改善顧客服務的進程,甚至開拓全新的應用。

亞馬遜(Amazon)在西雅圖所開設第一家高科技便利商店Amazon Go,是AI技術發展的一個指標性的案例,其最大賣點為顧客將完全不需排隊結帳,利用監視鏡頭與其他感測裝置,來收集顧客在店內活動的各項相關資訊,電腦系統能夠自動辨識顧客拿取的商品種類與數量,並將明細與費用記錄在顧客的亞馬遜帳號內的服務,將對零售產業帶來革命性的變革。

此外,在嵌入式系統所用的技術領域,舉凡智慧型裝置所需要面面俱到的相互連結的能力,隨著各式各樣的產業通訊標準的制定,涵蓋包括3G/4G基頻、Wi-Fi、Bluetooth BLE和Zigbee,等數個不同無線通訊的領域,創造出許多不同的市場區隔與產品。

這些散佈在各個場域的電子感測器與智慧型裝置,預計到2020年時,全世界會有超過500億的電子裝置互連,所以從傳統的Wi-Fi、Bluetooth和Zigbee以及更多延伸的無線傳輸規格,競逐著不同領域的應用,固然各種的室內區域、智慧家庭或智慧城市解決方案,正如過江之鯽般,努力尋找自己的市場定位,單一裝置中所需具備的多重無線通訊標準,無論選擇是Wi-Fi、藍牙或Zigbee等多重的組合,往往也關係著電子裝置的成本與耗能,而頻譜的使用也是兵家必爭之地。

對晶片設計業者而言,除了Wi-Fi與藍牙之射頻(RF)系統解決方案的推出之外,尤其以利用LTE第四代行動通訊頻譜所建立低功率消耗、低成本的長距離廣域連接的物聯網通訊標準,廣受到晶片業者的青睞與關注。

短距離間的互連規格與考量,固然是重要,但是對於走出戶外的嵌入式智慧型裝置,當跨越大的野外距離的應用逐漸嶄露頭角,許多新的應用如智慧農業與長距離運輸車隊的管理等應用開始嶄露頭角,長距離式的連接需求於是開始浮上檯面,這也是諸如3GPP等國際組織緊鑼密鼓地制定NB-IoT、LTE-M與EC-GSM等三大低功耗長距離無線網路標準。

低功耗廣域網通信技術(Low Power Wide Area)所帶領嵌入式智慧型裝置即將以30%的年複合成長率(CAGR)高速成長,至2022年將有21億個廣域聯網智慧裝置問世,對於眾所矚目的應用領域,包括智慧城市、智慧電錶、水錶與瓦斯表的用途,以及戶外販賣機(Vending Machine)等應用,將成為一個眾所期待的重要成長引擎,在未來幾年內發展,勢必受到更大的關注。

電腦視覺技術的演進  提升機器學習效能

在物聯網(IoT)狂飆的時代,雲端服務已從以往的資料中心,轉向邊際運算(Edge Computing)等新一世代的物聯網裝置發展,透過更多的感測器、與本地處理(Edge Processing)的運算能力,嵌入式SoC晶片所研發的各式產品,包括盒型電腦(Box PC)、智慧型閘道器(Gateway)、加上低功耗廣域網通信技術,讓嵌入式智慧型系統可以獨立運作的趨勢,愈來愈受到矚目。

人工智慧(AI)技術所開創產業的重大里程碑,是藉由深度神經網路(DNN)用來發展機器學習系統,可望為人工智慧與大數據分析帶來革命性的變革,並已經為語音辨識和翻譯、醫療分析和自駕車等高難度應用的發展帶來曙光。

這種特別適用於以GPU為主的平行處理技術與新的運算模式,全面地整合了硬體、深度學習軟體,以及多樣化的開發工具,能夠協助產品開發工作具備快速部署能力,並使嵌入式系統快速取得產業先機,並開啟一連串的產業新應用,這波由機器學習技術扮演著關鍵要角的進展,也為相關公司帶來驚人的成長。

舉例來說,在嵌入式視覺應用領域,藉由智慧端點閘道器(Gateway)就近判斷,利用低解析度影像的高壓縮比率的靜態視訊串流,一旦偵測畫面改變時,則動態改成高解析、低壓縮的清晰視訊等智慧型的應用,兼具效能與成本的設計,讓影像串流的應用得到更具經濟效應與智慧應用的用途。

對於以FPGA晶片為主的發展,整合APU、GPU與HEVC視訊編解碼器、可編程邏輯等SoC晶片,充分利用基於機器學習的感測器融合(Sensor Fusion)技術、先進電腦視覺演算法,以及即時物體偵測和分析功能,讓嵌入式視覺技術快速應用於下一代視覺系統,以協助嵌入式系統製造商克服電腦視覺(Computer Vision)所需面對的各種獨特的挑戰。

軟體加值服務的開發蔚為風潮

軟體加值服務因應這波由機器學習與大數據分析所引發的風潮,使得軟體所需要的開發環境與介面受到廣泛的注意,特別是以深層神經網路架構所開發的深度機器學習技術,因為考量嵌入式系統在記憶體容量與運算能力上的限制,許多人工智慧技術的發展朝向使用離線運算的環境,先在一個外部系統中發展機器學習的開發,舉凡包括Caffe、TensorFlow訓練架構開發的網路,然後再將機器學習的結果轉移到嵌入式系統上。

這樣一個機器學習系統的軟體開發環境,部分以DSP技術為主的應用,透過類神經網路產生器,用來將複雜的神經網路結構轉換為在即時情況下使用的客製化神經網路模型,採用靈活性高與模組化設計的應用軟體開發套件,巧妙地搭配受到功耗和記憶體頻寬限制的嵌入式系統的設計,開啟了適用於需要快速反應、低延滯忍受度,以及不需仰賴雲端服務才能運作的人工智慧的應用,整合更多的感測器、更多的連網智慧型裝置,更加方便。

軟體加值服務在醫藥運輸服務的產業中,也看到新的商機,例如許多的藥物在運送的過程中,對溫度的控制非常的敏感,利用嵌入式系統透過各式各樣的感測器所量測到參數,經過不同的軟體演算法的計算,能夠預測出不同的藥品經過不同的運輸載具與耗費時間對產品所產生的衝擊,所以補救的措施可以及時發揮效果,讓藥品得以順利安全的抵達目的地,以救助重要的傷患,所以利用精密演算法所打造的軟體產品將持續扮演著關鍵的地位。

今天電腦視覺、深度學習演算法、感測器融合等技術,從影像辨識應用引領機器學習的風潮,結合低功耗與機器學習的技術,以及特殊軟體演算法,使得自動影像辨識的應用,可以透過電池而長時間的運作,是一個具備高度的彈性應用的解決方案。

這種以電池驅動、長時間使用的人工智慧視覺感測器,對於現今高齡化社會所普遍需要解決的長照與老人安養的需求,非常有助於多樣化的解決方案的提供,配合機器學習的技術,以及啟動應變機制的解決方案,符合智慧醫療與智慧城市的解決方案的需求,提供從感測裝置、閘道器、雲端網路、資料中心到無所不在的智慧型個人助理(Personal Advisor),對於改善都市生活與增進人類福祉,做出更重要的貢獻,對產業界而言,機器學習技術正大幅地改變企業經營模式,對生產力重新定義,也對經濟帶來巨大且深遠的影響。