FPGA讓邊緣運算更具彈性 Xilinx提升客戶AI開發優勢

安富利台灣主任應用工程師陳豊縜。

為提升嵌入式系統的運作效能，邊緣運算成為科技產業近年來的重要趨勢，不過AI技術的演進快速，邊緣運算架構若不能快速隨之調整，將難以符合使用者需求，對此安富利台灣主任應用工程師陳豊縜指出，FPGA的彈性化特色將可協助工程師解決此一問題。

陳豊縜在「使用Xilinx快速部署AI邊緣裝置」議題演講中先介紹FPGA。她表示FPGA的中文為現場可程式邏輯閘陣列，其晶片由邏輯電路組成，使用者可將撰寫程式燒錄於FPGA晶片中，藉此定義電路連線以生成專用IC，由於此種燒錄非一次性的，而是可重覆燒錄程式，因此多數IC設計業者會先以FPGA完成IC功能驗證再投入ASIC，以減少失敗機率。

除了上述功能外，在少量多樣或上市壓力巨大的領域中，業者也會以FPGA取代ASIC，AI的各垂直應用市場就兼具上述兩大特色。陳豊縜指出，近年來AI的應用領域快速擴增，不同AI演算法不斷推陳出新，其創新週期甚至比專用IC的設計驗證週期流程更快，再加上不斷變化的工業標準、越來越高的安全及保密性需求，與數量漸多的感測器，這些變化都讓既有的運算架構無力負荷，市場需要的是可依據不同應用調整運算結構的硬體平台，要解決此問題，FPGA就是最佳解答，而Xilinx也對此提出解決方案。

陳豊縜表示，為了協助客戶縮短產品上市時間，Xilinx將FPGA與CPU、ASIC整合為SoC，此一SoC架構中有基本的通訊介面，再加上FPGA原有的可調整不同運算結構特色，設備業者即可快速設計出邊緣運算架構產品。

至於要如何開始部署AI架構，陳豊縜也提出了建議。她表示首先必須釐清AI辨識需求，再找出合適模型。其次是計算此一模型所需運算量，最後再選擇符合功耗、效能與成本的邊緣運算裝置。對於這些工作，傳統的做法是採用開發硬體描述語言，不過此一方式已難因應現在市場的快速需求，對此Xilinx則提供了可快速部署AI的開發套件Vitis AI。

Vitis AI包含經過最佳化的IP、工具、資料庫、模型與範例設計，此平台的開發流程支援可分為載入訓練模型、優化模型、將模型編譯成執行檔、整合執行程式與硬體、部署硬體裝置等5大步驟，協助客戶徹底利用Xilinx FPGA在AI的快速開發能力。

陳豊縜表示，對於AI的推論模型，Xilinx提供了可調整不同運算結構的硬體平台，其低延遲、高彈性與高擴展性的獨特優勢，可完整串聯邊緣與雲端兩大層面。Vitis AI流程則能滿足系統廠商在AI推論模型的開發效率，其AI部署無需RTL編程、DPU、工具鏈、特定模型和設計服務，簡化了整體開發架構，同時也縮短產品的上市時程，藉此強化業者的競爭優勢。