恩智浦與NVIDIA攜手整合TAO工具套件至恩智浦邊緣裝置 加速AI部署

恩智浦與NVIDIA攜手合作 整合TAO工具套件至恩智浦邊緣裝置，加速人工智慧部署。恩智浦

全球半導體領導廠商恩智浦半導體（NXP Semiconductors N.V.; NASDAQ：NXPI）日前於NVIDIA GTC宣布與NVIDIA合作，將NVIDIA經過訓練的人工智慧模型透過eIQ機器學習開發環境部署至恩智浦廣泛的邊緣處理產品組合中。NVIDIA TAO工具套件功能與恩智浦eIQ機器學習開發環境的整合令人振奮，開發人員能夠在競爭日益激烈的人工智慧領域中實現加速開發。恩智浦是首家將NVIDIA TAO API直接整合至人工智慧產品的半導體供應商，讓開發人員更輕鬆地在邊緣部署經過訓練的人工智慧模型。

簡化人工智慧模型的訓練和部署是當前人工智慧領域開發人員面臨的重大挑戰之一。為應對此挑戰，恩智浦與NVIDIA合作，將NVIDIA TAO API直接整合到恩智浦eIQ機器學習開發環境。NVIDIA TAO低程式碼人工智慧框架透過遷移學習（transfer learning），讓開發人員能夠更輕鬆地運用經過訓練的人工智慧模型，並針對特定用途對模型進行微調和最佳化，而恩智浦eIQ開發環境透過整合式軟體、推理引擎、神經網路編譯器以及最佳化的函式庫，簡化將模型部署到邊緣的過程。

透過本次技術整合，客戶能夠從多方面受益，包括加速人工智慧開發進程、存取預先測試的人工智慧模型庫、以及將人工智慧模型部署至恩智浦廣泛的邊緣處理器產品組合。

恩智浦半導體資深副總裁暨工業與物聯網邊緣事業部總經理Charles Dachs表示：「人工智慧創新將決定智慧互聯世界的未來。恩智浦在工業和物聯網邊緣創新領域擁有豐富的經驗，而NVIDIA則在訓練與測試人工智慧模型方面具有專業優勢，兩者結合產生的協同作用能夠讓我們的客戶更加快速、輕鬆地將其人工智慧模型推向市場。」

NVIDIA機器人與邊緣運算副總裁Deepu Talla表示：「NVIDIA TAO可大幅度簡化人工智慧模型的創建和部署，包括先進的生成式人工智慧模型。此次合作，透過運用NVIDIA TAO調整的高度精確且經最佳化的人工智慧模型，以及將模型無縫整合至恩智浦eIQ開發環境，能夠加速實現部署邊緣人工智慧。」

借助恩智浦eIQ機器學習軟體發展環境，用戶可在恩智浦廣泛的微控制器和微處理器產品組合中運用人工智慧演算法。eIQ機器學習軟體已完全整合到恩智浦的MCUXpresso SDK和Yocto Project Linux開發環境，開發人員能夠輕鬆開發完整的系統級應用。

eIQ機器學習開發環境將直接整合NVIDIA TAO API，為人工智慧模型的訓練、最佳化和部署提供統一平台。NVIDIA TAO提供基於API的工作流程，運用一系列預先訓練的模型和遷移學習，使用者能夠自訂構建人工智慧模型。NVIDIA TAO亦提供多項最佳化功能，例如模型剪枝（model pruning），以提高推理輸送量。

有關此次合作如何加速開發，並允許NVIDIA的預先訓練模型在恩智浦SoC的神經處理單元（Neural Processing Unit；NPU），如i.MX 93應用處理器上運行的更多資訊，請參閱官網。