Arm全新終端產品運算子系統 推動AI PC與AI手機之實現

隨著AI PC和AI智慧型手機的興起，意味著AI所驅動的強大運算能力和更佳效率已不再僅限於用在資料中心。在此趨勢下，各種終端裝置都將進一步支援AI功能，帶來全新的使用者體驗。為因應此市場需求，Arm日前發表全新的終端產品運算子系統（CSS for Client），憑藉著效能升級、製程以及軟體最佳化等多項優勢，可望加速AI PC和AI手機的實現，帶動龐大商機。

首次為CPU和GPU提供實體實作

近年來，Arm制定了運算子系統（CSS）策略，透過提供預先整合與驗證的運算單元，以協助客戶縮短產品開發週期。截至目前，已針對基礎設施發表過CSS解決方案，針對車用領域的Arm CSS，預期於2025年上市供應。

而此次針對終端產品推出的CSS，其特殊之處在於，這是Arm首次以實體實作的形式提供CPU和GPU。Arm 終端產品事業部產品管理副總經理 James McNiven表示，「透過與晶圓製造合作夥伴合作，我們最佳化了3nm製程上的量產就緒實體實作，以提供更佳的效能與效率。」

他強調，藉由此舉，Arm將能為客戶帶來更高的價值，特別是高階手機設計，客戶對加速上市時程的需求更為殷切。對此，Arm可提供GDSII檔案（僅限於3nm製程），客戶可將其直接整合於佈局設計之中，將能更快推出新產品。

兼顧擴展性 提升系統級效能

James McNiven指出，隨著終端裝置對AI效能有更高的要求，特別是針對多媒體、遊戲等應用，如何協助開發人員更輕鬆實現AI PC/AI手機所需的效能與效率，是我們的重要課題。

「對Arm來說，我們思考AI已有很長一段時間，2021年發表的Armv9架構，便是專為效能和AI所設計，過去幾年來也已針對向量加速、機器學習等功能提升其運算能力。」

這次推出的CSS for Client便是以2023年推出的Armv9.2架構為基礎，結合最新的Cortex-X925 CPU、Immotalis-G925 GPU，以及Corelink系統互連和系統記憶體管理單元（SMMU），打造一個兼具效能和效率的運算平台，協助開發人員更快地在Arm架構上開發AI體驗。

針對高階AI手機需求，Cortex-X925可提供高達的41% AI效能提升，有助於大幅增強生成式AI的反應速度。此外，Immotalis-G925也進一步推動了光線追蹤技術在行動裝置上的實現，不僅在手遊應用程式方面增加37%效能，也推升了34%的AI推論效能。

除了高階手機，舉凡數位電視、遊戲機、智慧手錶等各種消費產品，都將受惠於Arm終端產品運算子系統帶來的效能與擴展性。

James McNiven指出，「我們提供了三種不同的CPU微架構和GPU選項，客戶可以靈活運用，開發各種裝置。除了Cortex-X925和Immotalis-G925的效能升級之外，事實上，透過微架構改進、製程和實體IP最佳化等重大革新，我們的Cortex-A725相較於Cortex-A720也實現了35%的能效提升，這對更廣泛的消費應用來說，也是非常重要的！」

發表全新Kleidi軟體 為CPU帶來最佳AI效能

Arm並未把NPU納入其CSS方案中，對此James McNiven解釋說，「目前有約七成的第三方Android機器學習工作負載都是在CPU上執行，對我們來說，如何充分發揮CPU的AI運算效能是更重要的議題。另一方面，以最新的生成式AI為例，目前LLM（大型語言模型）仍持續進展中，若以NPU方式建置將難以因應新的模型而更改，所以CPU處理是最具彈性的。」

有鑑於此，Arm這次也一併發表了全新的Arm Kleidi 軟體，其中包括AI工作負載的KleidiAI和針對電腦視覺應用的 KleidiCV。James McNiven表示，Arm Kleidi是小型、最佳化的運算核心，可整合到各種執行AI或電腦視覺的裝置，並支援NEON、SVE2和SME2等指令集，以確保開發人員在部署到任何一種Arm CPU時，都能獲得最佳效能。

「以KleidiCV為例，當我們把它整合至在支援 NEON和SVE2的裝置上執行OpenCV時，速度提升了75%，這是非常顯著的效能升級。我們2024年還將與OpenCV.ai合作，使Android開發人員更容易將OpenCV納入其專案中，並從KleidiCV的效能提升中獲益。」

強化與台灣產業合作 AI產品商機可期

隨著CSS for Client的推出，也為Arm推進耕耘許久的Windows on Arm市場帶來了更多的優勢。James McNiven表示，「對WoA生態系統來說，2023年也是我們豐收的一年。現在已有愈來愈多的基本應用程式成為Arm原生程式，例如Chrome以及Office、Dropbox、Zoom和Adobe套件等，因此大部分使用者都將能執行原生應用程式。」

「我們預期2025年將能看到WoA有顯著進展，隨著生成式AI應用的快速發展，未來包括照片、視訊、遊戲等應用都將能打造出更豐富的個人化體驗。」

隨著AI商機爆發，AI PC和AI手機將能為台灣產業帶來新的成長契機，James McNiven強調，Arm非常重視與台灣業者的夥伴關係，將在新的AI世代中建立更緊密的合作。「我們看到了業者試圖把AI功能帶到包括數位電視等各種終端裝置中，台灣科技產業正展現出活躍的設計動能，我們也樂見未來將有更多的創新產品出現。」

「對Arm來說，我們將致力於提供AI運算的基礎平台，並投資於建構更高效能的終端產品運算子系統。未來，我們還將增加更多的AI功能和安全性，帶動生態系統的進一步創新。」

Arm終端產品運算子系統（CSS for Client；CSS）是由AI驅動消費者體驗的全新運算平台，為新型人工智慧工作負載提供基礎運算，推動全新的智慧型及沉浸式體驗，橫跨AI PC至智慧型手機等裝置。請點此瞭解基於Arm架構上的行動運算未來。