奧暢雲推出SaaS-In-Chip新利器 打通Edge AI任督二脈

不論行業，舉凡雲端運算、人工智慧 (AI) 儼然成為大勢所趨，企業只要善用這些技術，即可實現數據預測與營運布局，有效提升競爭力。然而，隨著全球雲端技術發展至今，風向似乎出現轉變，分散式的「AI at the Edge」逐步於各智慧應用場域掀起浪潮。

影響所及，無論交通、零售、農業、製造、城市基礎建設...等多樣化場景，皆出現日益高漲的 Edge AI 部署需求，且不同領域需求互異，為技術供應商創造無限商機，更重新定義軟硬體服務與應用。

為協助台灣 ICT 產業掌握 Edge AI 商機，Allxon 奧暢雲邀集諸多產業領袖及軟硬體企業代表，於日前舉辦「SaaS-In-Chip X 服務賦能」記者會暨論壇，盼藉由趨勢與實例分享，協助產業人士精準掌握 Edge AI 最新技術與應用，及早布局產業新藍海。

藉由軟體加值硬體，搶佔 Edge AI 先機

作為本次論壇的亮點開場，「Edge AI 的未來價值／整合雲端服務的商業模式與應用」焦點對談由 DIGITIMES 顧問分析師兼總監黃建智擔任主持人，與談人包括 Allxon 奧暢雲董事長陳炫彬、凌華科技董事長劉鈞，及 NVIDIA 副總經理林敬祖。

黃建智指出，在「軟硬整合」、「邊緣運算」等關鍵趨勢帶動下，Edge AI 的重要性扶搖直上，以致各界急欲探究——在 Edge AI、工業電腦 (IPC)、產業應用等元素的交互激盪下，產業將爆出何等火花? 又，如何透過軟體加值硬體，帶動台灣 ICT 產業迎向下一波 Value Up?

林敬祖認為， Edge AI 未來將呈現三大發展趨勢：首先，Edge AI 模型越來越聰明、服務項目越來越多，這意謂著它必須擁有即時處理不同 AI 模型的能力，因而需要借重更強的伺服器運算力；其次，在 5G 加持下，Edge AI 可有效降低延遲、確保作業即時順暢，對交通、物流、零售、製造等攸關生命財產安全的「Mission Critical」而言，極具關鍵推動成效。

至於第三項趨勢，當面臨各行各業接連投入發展 Edge AI 的大局，ICT 產業不能只關注硬體運算資源，同時需注重軟體工具及平台，方能協助客戶加速發展其領域的 AI 應用。所謂軟體平台須具備「Cloud-Native」、「End-to-End」兩項要素，以利企業透過雲端強化 AI 管理、部署及資安。

劉鈞表示，談到 Edge AI，箇中重點即是「邊緣 (Edge)」，以「分散式」雲端運算架構取代「集中式」雲端運算架構，管理難度相對更高；此外，各產業應用環境截然不同，Edge AI 更具備碎片化、異質化的特徵。由此可見，Edge AI 雖缺乏 PC 時代的 Wintel 公版規則，而墊高了產業切入門檻，但也因? 尚無大廠一統江湖，產業更是蘊含無限商機。

劉鈞認為，面對 Edge AI 大未來，台灣擁有絕佳優勢：一是各界不斷提倡的軟硬整合；台灣於 PC 及手機時代無緣扮演先行者，惟今涉及多元智慧應用的 Edge AI 市場尚無標準可循，亦未見龍頭出現，台灣只要善用半導體的雄厚實力，將晶片與軟體整合為模組，即可快速切入，唯有整合方能搶得先機。其二，欲搶灘 Edge AI 市場，除了靠硬體，更需靠軟體；現今不論軟硬體皆呈現碎片化，足見 Edge AI 市場諸多環節尚未就緒、商業模式混沌不明，形同一灘「渾水」，但台灣相較許多國家更早進入此領域，握有「渾水摸魚」先機。

陳炫彬呼應劉鈞的妙喻，認同「渾水摸魚」的重要性，但要想成功摸到魚，須拿出真功夫，特別是軟體領域。他指出，Edge 裝置的應用環境複雜且具分散式特色，驅使 Allxon 奧暢雲決心打造「化繁為簡」的平台，給予用戶最即時、易上手的服務，只要 Edge 裝置出現狀況，奧暢雲都能在數秒內排除障礙，讓用戶的 Edge 裝置迅速恢復正常運作，不致衝擊 Mission Critical 的應用。

陳炫彬更提及另一個重點，在於台灣 ICT 產業必須實現軟硬整合、厚植加值能量。為此，Allxon 奧暢雲立基於 SaaS 平台，積極與 MCU、IPC 等許多硬體廠商合作，希冀貫徹 SaaS-In-Chip 創新觀念與做法，加速促成軟硬整合，為終端用戶提供最即時的服務、確保其營運不中斷。

借助好的裝置管理模式，讓 PoC 真正推進為商模

劉鈞指出，以分散式系統而論，一旦被部署到眾多不同案場，接下來的重大議題，便是如何有效管理散佈各處的裝置，此時即需仰賴好的裝置管理平台。不可否認，國際上已存在許多 Cloud-Native 的裝置管理平台，但市面上的平台在處理 Edge 端的問題時，始終存在鴻溝。因此，他盛讚 Allxon 奧暢雲提出的 SaaS-In-Chip 確實是弭平這道鴻溝的好解方，它讓終端用戶透過簡單的方式輕易管理部署出去的大量 Edge 裝置，甚至發揮預測性維護功效；只要 Allxon 奧暢雲持續完善 SaaS-In-Chip 技術，便能由概念驗證 (PoC) 階段成功推進至商業模式。

林敬祖表示，為協助產業界補強前述的「鴻溝」，NVIDIA 也致力提供多項奧援。例如 TAO 工具套件，其中包含許多針對不同產業的高準度預訓練模型，使用戶無需從零開發即可建構 AI 模型。另外提供 Fleet Command，數分鐘內便能為數百、數千甚至數萬台裝置迅速佈建 AI 模型，同時保障資料傳輸過程安全無虞。此外，NVIDIA 亦透過工業元宇宙方案，讓用戶在高度擬真的虛擬世界中模擬 Mission Critical 情境，反覆直至能夠熟練應對後，再將 AI 模型套用至現實世界。

陳炫彬期許，Allxon 奧暢雲能透過軟體為硬體加值，讓台灣已具相當火候的 ICT 產業更上層樓。他同時認為，台灣非常適合走「螞蟻雄兵」的軟體發展模式，以服務不同垂直領域的分散式 Edge 裝置，順勢為台灣堅強的硬實力基礎巧妙堆疊軟實力，促使台灣整體產業的價值迅速躍升。

SaaS-In-Chip 服務賦能，讓各種角色同蒙其利

除精彩的 Panel Discussion 焦點對談外，Allxon 奧暢雲悉心安排豐富的 Keynote 議程。首先登場的講者為 NVIDIA 資深經理戴宏展，他提到在近十餘年急速發展下，AI 影響力擴及產業價值鏈的設計、製造、供應鏈、服務等各個環節，其中 Edge AI 發展潛力尤其驚人，預期將在智慧製造、交通運輸、半導體等8大領域合計創造逾4.8兆美元產值。

考量業者進軍 Edge AI 時，多會在擴展性、自主與感知、功能安全、可部署性及可管理性等條件遭遇挑戰；NVIDIA 提供多項武器，協助用戶逐一突破這些瓶頸。例如透過 TAO 工具套件提供上百個預訓練模型，讓用戶結合自身 Dataset，加速打造適用 AI 模型。另針對機器人、影像分析、語音對話等垂直應用，分別提供 Isaac、DeepStream 和 RIVA 等應用程式框架。此外，針對 NVIDIA Jetson 開發者，提供帶有加速效果的 JetPack SDK，內含感測器、SDK、服務與產品等生態系，助力加快硬體開發速度。

接著由研華科技物聯雲事業群副總經理鮑志偉登場。他表示橋水基金創辦人 Ray Dalio 曾說，唯有「生產力」才是迎向未來的關鍵；同理，Edge AI 能否實現商業價值，關鍵亦在生產力。

鮑志偉指出，2022年 Embedded World 主題為「Moving Intelligence from Cloud to Edge」，看來似乎有先雲後邊的意味，其實並非如此。「AI at the Edge」的觸發點 (Trigger Point)，絕對源於 Edge 端的實際需求，為滿足需求、帶動服務提升，才促使管理服務平台應運而生，從而觸發更多應用創意、形成正向循環。因此他認為，Edge AI 最大的商機在於「AI PaaS」，包括伺服器算力、虛擬技術、遠端管理功能，皆是構成 AI PaaS 的要素，也是實踐 AI PaaS 商業模式的關鍵。

新唐科技資深工程師杜俞輝，以新唐提供的 NuMaker-RTU-NUC980 (簡稱為『Chili』) 開發板為軸心，述說 SaaS-in-Chip 的賦能價值。他指出，Chili 奠基於工控等級 NUC980 MPU，板上含兩大重要元件：一是 Allxon plugIN，透過 GPIO 串聯 Edge 裝置；另一則是 Allxon Agent，經由乙太網路連結 Allxon 奧暢雲設備管理服務平台 (Allxon Portal)。

經由 Allxon plugIN 與 Allxon Agent 互連，一方面可將 Edge 裝置的主機板狀態上傳 Allxon Portal，另一方面亦能促使 Allxon Portal 對 Edge 裝置進行控制。此架構設計對開發者十分有利，只因 Chili 與 Allxon Portal 的整合路徑已預先鋪設完成，不需費時撰寫太多程式碼，只需稍加修改 Allxon plugIN 即可實現所需 I/O 配置，最後，再將 I/O 配置文件上傳 Allxon Portal，便能快速建立遠端裝置管理服務機能。

最後一場 Keynote 由 Allxon 奧暢雲執行長劉厚儀擔網演說，他指出，Allxon 奧暢雲彙整大量夥伴的回饋，得知他們十分擔心客戶端的系統無預警當機，導致被迫派工處理、耗費可觀成本。為此，Allxon 奧暢雲在力推 SaaS-In-Chip 技術之餘，也一併推廣 OOB 頻外管理技術 (Out-Of-Band Technology) ，其即時性、有效性與直覺性使 SI (系統整合商) 能輕易於遠端執行災難復原，達成降低派工需求及提升服務品質的目的。

談到 Allxon 奧暢雲為何強調 SaaS-In-Chip? 劉厚儀認為，對於 IHV，SaaS-In-Chip 是統包式解決方案 (Turnkey Solution)，可直接進行客製功能 Design-in；對於通路業者，在銷售硬體之餘可藉此提升附加價值、開創商業利益；對於 SI 或 MSP (營運服務商)，不需二次開發、開箱即用。顯而易見，SaaS-In-Chip 讓各種角色皆能得利，激發了 Edge AI 商機潛能，正是其核心價值之所在。