英特爾力推電腦視覺開發工具 加速AI在終端裝置的應用

英特爾業務行銷事業群企業解決方案協理鄭智成表示，隨著各種Framework的開放，台灣業者更應加緊腳步，善用這些現有資源與工具加速導入實際的AI應用。

AI人工智慧是現下最熱門的產業議題。然而，當人們專注於討論深度學習演算法、雲端資料中心等技術之際，終端裝置的實際AI應用卻仍付之闕如，業者對於著手導入AI應用也顯得裹足不前。為了加速AI在終端裝置的普及運用，英特爾日前推出了兩款電腦視覺軟體開發工具(SDK)，能夠把視覺辨識深度學習應用快速地帶到電池供電裝置以及現有廣大的x86架構PC/IPC產品上，將能帶動多樣化的創新應用，並使更多業者獲益於這波的AI革命。

英特爾業務行銷事業群企業解決方案協理鄭智成表示，AI技術其實已有近60年的發展歷程，這波熱潮的興起，主要歸因於深度學習演算法的突破，以及大數據與運算能力的提升，讓資料的處理成本大幅降低。此外，Caffe、TensorFlow、CNTK、MXNet等Framework的就緒與開放，亦是重要關鍵，讓更多人都能使用這項技術。

「但是，綜觀目前的產業現況，討論Caffe、TensorFlow的人很多，但實際應用卻才正在起步的階段，這是因為缺乏相關工具，能把在這些Framework上訓練好的模型實際付諸應用。」他強調。

推動AI邊緣運算  實現落地應用

因此，除了多款晶片之外，英特爾亦開發多款程式庫與平台，讓這些Framework能夠取得更好的效能。其中，英特爾提供兩個重要的SDK，一個是電腦視覺CV SDK(Intel Computer Vision SDK)，另一個是Intel Movidius MDK，作為英特爾硬體晶片與深度學習實際應用的介接，支援各種Framework訓練好的模型，因此能把推論功能快速帶到閘道器或終端裝置上。

Movidius處理器功率最低僅1瓦，可應用在電池供電的裝置。例如大疆無人機DJI-Spark就是採用英特爾的Movidius Myriad 2視覺處理器以及在業界知名的框架上訓練好的模型，能實現障礙物閃避、人臉與手勢辨識功能。此外，新款Google Clips迷你AI相機，也是內含Intel Movidius Myriad 2視覺處理器，可直接於相機終端進行即時AI與機器學習運算，提高圖像辨識與處理效能，在離線情況下也能隨時捕捉生活中的精彩瞬間並編輯影像。

針對需持續供電的裝置，則可利用CV SDK，把訓練好的模型實際付諸應用。例如，英特爾與亞馬遜合作的DeepLens為首款可編程的深度學習無線攝影機，內含Intel Atom X5處理器、Intel深度學習軟體工具，及Intel深度神經網路Compute Library，能在攝影機終端上即時運行電腦視覺模型，支援雲端環境中的AI模型訓練與導入，可降低成本與即時回應，幫助開發者設計出更多AI與機器學習的創新應用。

鄭智成表示，CV SDK的重要意義在於，它可支援Skylake架構以後的多款處理器，包括Pentium以及FPGA加速器。也就是說，現有廣大的個人電腦、工業電腦、攝影機等各種產品，無須再採用特別的深度學習晶片，便能把雲端訓練好的模型轉換為實際運用，讓AI視覺辨識應用能夠真正落實在各種裝置上，而不再是遙遠的空談。

在今年獲得Google、亞馬遜等指標性大廠的採用後，英特爾對於推動AI邊緣運算市場更是顯得信心十足。此外，在語音辨識方面，英特爾也已開發了GNA晶片(Gaussian mixture model and neural network accelerator)與SDK，同樣能以低功耗特性，將現今最熱門的智慧語音功能帶到非常低功耗的裝置，目前正尋求主要客戶的採用。

鄭智成表示，把AI推論功能帶到終端裝置勢必會帶動風潮，成為新一波AI運用的重點。這將推動AI在各行各業的普及使用，特別是對台灣業者來說，隨著各種Framework的開放，業界已無需再投入巨額的成本與時間，從零開始來開發自己的演算法以及建置複雜的硬體架構來訓練神經網路。台灣業者更應加緊腳步，考慮如何利用這些現有資源與工具，加速導入實際的AI應用。

以工業電腦為例，結合視覺辨識功能就可支援自動光學檢測(AOI)作業，而無須再購買專用設備來提升其製造品質。所以，即使是中小型業者也能以PC等級工業用電腦的價格負擔得起AI應用，並能因此真正獲益。這才是台灣業者應專注的策略，強化透過AI的實際應用來提升產業競爭力。

近來積極耕耘AI市場的英特爾，已建構了從雲端到閘道器、終端裝置的完整AI運算平台。鄭智成指出，這波的AI復興，主要是利用神經網路演算法，在訓練與推論方面實現了重大的突破。但是，在深度學習的訓練方面，神經網路與傳統IT資料的規則式概念截然不同，一旦需要加入新的辨識對象或情境，需要再花長時間重新進行訓練，才能加入新的辨識能力。

因此，他相信，未來雲端技術還會有很多演進，來縮短訓練時間，讓AI應用更有效率。而對英特爾的佈局來說，在雲端資料中心，仍將強化Xeon的佈署，並運用Nervana平台作為訓練加速器之用；至於FPGA，則能廣泛運用在雲端作為推論加速之用；而在終端裝置，則將透過SDK支援更廣泛的Framework以及topology，來開拓新的應用。

鄭智成總結道，AI深度學習神經網路技術其實涵蓋了很大的範圍，除了演算法的開發，包括資料的收集與標註、分析與前處理等都還是需要CPU來處理。英特爾身為領先的晶片業者，致力在其中找到各種機會，並強化與學術界的研發合作，從各個層面來推動AI應用的創新與落實。