LLM推論邊緣應用即將大爆發 Skymizer讓客製化AI晶片開發更簡單

Skymizer行銷長暨執行副總經理魏國章。Skymizer

就像是2023年由OpenAI創造的「ChatGPT時刻(moment)」讓生成式AI旋風席捲全球，DeepSeek在2025年初點燃的低成本大型語言模型（LLM）開發熱潮，預告了我們將很快看到相關應用遍地開花，而且是從雲端大舉轉向形形色色的邊緣裝置。

看好「DeepSeek Moment」帶來的新商機，臺灣發展軟體科技（Skymizer）已經準備好以專長的AI晶片加速器IP與LLM推論效能提升解決方案，協助開發者克服部署創新邊緣AI應用的種種挑戰。

Skymizer行銷長暨執行副總經理魏國章表示，「我們看到目前邊緣AI正朝向整合影像、語音、文字等不同資料的多模態（multimodality）應用，以及更具自主能力、可即時互動的AI代理（Agentic AI）功能發展，同時還得考量如何運用邊緣裝置有限的硬體資源，因應從工業、汽車到家庭等需求迥異的多元化智慧場景，目前市場上的AI運算任務大多仰賴GPU，但在AI推論的應用上，GPU並非最佳化方案。我們的IP專為LLM推論應用打造，透過專有指令集架構，能實現大幅提升運算效率與功耗表現的ASIC，降低邊緣AI應用開發任務的複雜度與成本。」

突破GPU瓶頸  以LPU加速LLM推論應用

魏國章解釋，屬於通用性運算解決方案的GPU雖然能在AI訓練任務上發揮關鍵作用，但在推論應用上面臨諸如高功耗、記憶體頻寬限制等挑戰，也非最佳化的運算單元設計；Skymizer的AI晶片加速IP則是專門針對LLM推論應用最佳化的語言處理單元（Language Processing Unit；LPU），能讓晶片設計者開發特定應用專屬的ASIC，進一步提LLM推論應用效能，更重要的是降低硬體成本。

魏國章補充，「我們為支援邊緣AI推論應用晶片開發提出的LPU加速IP，在概念上與以往的『挖礦』ASIC相似。就像市場上一度相當熱門的加密貨幣挖礦活動，最開始也是依賴GPU，後來出現了專門應用於該任務的ASIC，無論在性能、功耗效率或成本等條件上都有顯著的改善，預期AI推論市場也將朝相同方向發展；運用我們的LPU，能實現Transformer-based架構LLM模型最佳化的ASIC，再加上是採用成本較低的成熟半導體製程節點，可為AI推論應用的普及化推波助瀾，為市場提供更具競爭力的GPU替代方案。」

Skymizer的LPU加速IP擁有種種優勢，主要得益於該公司的獨門秘技──簡稱LISA的語言指令集架構（Language Instruction Set Architecture）。

魏國章強調，最新的3.0版LISA提供對多模態AI與AI代理應用的原生支援，能同時載入、執行多個模型，以因應複雜工作流的即時決策、互動需求，此外該指令集架構具備高度彈性與可擴充性，能支援從雲端到邊緣的各種硬體平台；針對目前市場上AI硬體多樣化的狀況，Skymizer LPU的APIs可以相容NVIDIA Triton、OpenAI與Hugging Face等熱門API的支援，讓開發者能更輕鬆地將現有應用移植到內含Skymizer LPU的SOC平台。

擴大生態系規模、強化與業界廠商與開發者社群合作

在即將於3月26日-28日舉行的AI EXPO Taiwan 2025展會上，魏國章將更深入地和與會者共同探討Skymizer LISA 3.0版與LPU的技術細節，也期待能與更多準備開發AI晶片與LLM應用的業界夥伴建立合作關係。

他表示，該公司的LPU IP能與晶片業者的SoC內建AI子系統緊密結合，深度整合於晶片核心架構，提供無縫的AI加速能力；或是作為AI加速器附加功能區塊，與現有SoC或通用運算核心結合，在不需要重新設計整個晶片的前提下實現AI效能的提升。

除了積極拉攏IC設計業者夥伴加入生態系，Skymizer還與系統整合業者、終端服務供應商密切合作，針對特定應用場景共同開發最佳化解決方案、催生更多商業化落地案例。

以軟體技術起家的Skymizer也特別重視對開發者社群的支援，考量到未來不同垂直領域的AI代理將大量崛起，魏國章表示，該公司將持續加強與全球開發者的互動，透過技術資源共享與標準化的推動，加速相關應用的普及。

其中他特別看好AI在未來汽車的發展，除了已經趨近成熟應用的自動駕駛AI功能、先進輔助駕駛系統（ADAS）等方面的應用，指出Agentic AI將開啟汽車成為人類在移動和運輸功能的智能幫手，就像霹靂遊俠（Knight Rider）李麥克的伙計（KITT），Skymizer 的LPU能夠讓LLM在車上進行大量即時推論的需求，也能達到在運算性能與功耗上的最佳化權衡，會是電動車的理想選擇。此外被視為未來有機會成為殺手級應用的人形機器人，預期也將是LPU能充分發揮潛力的AI代理應用。

魏國章總結，「我們將持續深化軟硬體協同設計解決方案，推動生態系協作，以台灣為基地、放眼全球市場，助力本地AI產業鏈的價值升級；」Skymizer正在打破當前AI硬體的種種限制，開啟一個AI推論技術在市場獲得更大規模採用、AI晶片更普及化的新時代。他並透露，該公司在5月份舉行的2025年度台北國際電腦展（COMPUTEX）還會有更多新產品發表，期望能在AI產業界創造令人耳目一新的「Skymizer Moment」！

誠摯邀請您參觀蒞臨AI EXPO Taiwan 2025，Skymizer將於第一天下午發表「Skymizer AI加速器IP：釋放無與倫比的AI效能」。Skymizer展覽攤位號碼：I區03，邀請您立即報名AI Expo Taipei 2025。如需更多關於Skymizer產品與合作資訊，請參閱Skymizer官方網站。