HPE、APMIC及大綜電腦三強聯手 助企業大幅加快AI轉型進程

AI浪潮正鋪天蓋地湧向各行各業，對人類科學、經濟、社會、文化的發展造成巨大影響。處在這個前所未見的歷史轉捩點，無論製造、金融、醫療、服務、政府或教育等各個領域的眾多用戶，都亟欲導入AI創新應用，藉以實現降本、增效、提質、減存等多重效益。

有鑑於此，企業ICT基礎架構領導廠商HPE訴諸「軟硬兼施」，以期加速企業AI策略佈局。與此同時，HPE致力建立廣泛的ISV夥伴生態系統，期盼整合更多富含獨特優勢的AI方案，協助用戶打造高效率的AI工作負載環境。

HPE軟硬兼施，擘建完整AI服務藍圖

眾所矚目的2024 NVIDIA GTC大會，HPE宣佈與NVIDIA共同發展生成式AI全端方案，比方說HPE機器學習推論軟體（MLDM）連同RAG參考架構，均將支援最新NVIDIA Blackwell平台。

不僅如此，目前企業可直接購買或透過HPE GreenLake，以靈活、可擴充、按量付費的方式引進HPE生成式AI企業運算方案。此方案源自HPE與NVIDIA共同開發，因應企業打造GenAI應用過程的種種需求，預先配置必要的運算（AI伺服器）、儲存、軟體、網路及諮詢服務，一來降低環境準備時間與成本，二來支持以利用私有資料調校GenAI基礎模型，包含進行輕量級微調、RAG或橫向擴展推論，並於混合雲環境部署GenAI應用服務。

HPE已一步步擘畫完整的AI藍圖，足以涵蓋用戶從零出發、到完成AI平台佈建的全方位歷程。從一開始的顧問服務，可按用戶的業務目標及需求，協助部署最佳化AI方案，且一併勾勒完整AI策略藍圖。接著提供HPE Ezmeral Data Fabric軟體、HPE GreenLake for File Storage等解決方案，既可一舉存取、分析與管理從邊緣到雲端的海量數據，亦能有效提高數據的彙整與準備速度，連帶在更短時間內完成AI模型訓練與調校。

之後可運用HPE機器學習推論軟體、機器學習開發環境等方案，大幅縮短數據處理時間，加快 ML模型開發並優化GPU資源分配。

APMIC推CaiGunn開講，陪企業一手培育「無限產能的AI大腦」

接下來介紹兩家深具競爭力的HPE AI生態系夥伴。第一家為創辦於2017年的APMIC，是一間以自然語言理解（NLU）核心技術出發，由一群AI技術充滿熱情的團隊所成立。生成式AI 百花齊放的同時，對於一個企業的挑戰是如確保公司在每個「合適的應用情境」當中，將人才資產、知識續留在公司中，因此每一間企業都需要有無限產能的AI大腦，而這個AI大腦也要同時兼具軟硬整合涵蓋「完整系統整合」服務，進而邁向企業擁有無限產能的第一步。

APMIC目前提供最主要的方案「CaiGunn（開講）」，就是讓企業跨出第一步的好夥伴，除了由NVIDIA官方認證的生成式AI雲端、地端軟體，是一款真正由台灣人打造的在地化大語言模型與平台，讓企業內部的每個員工，能以No-code的方式隨時做出屬於業務單位「合適的應用情境」的AI，當企業遇到跟時間賽跑的任務時，人人都是AI的開發者，輕鬆透過三步驟「1上傳資料、2下提示語、3測試AI 」就像新人教育訓練一樣，讓「CaiGunn（開講）」陪企業一手培育「無限產能的AI大腦」。

「CaiGunn（開講）」的方案當中，能支援混合雲的架構運行，同時支援多種超過30B、70B甚至參數超過100B以上的繁體中文與英文模型。然而在企業導入AI中，因應各式各樣的情境會需要不同的模組來協助，「CaiGunn（開講）」目前包含超過30個「AI功能」模組，以利企業能透過模組快速找到合適的組合技，創造因時制宜的應用。「CaiGunn（開講）」會基於硬體設備做半自動化的資料前處理、自動化的模型訓練，使用者只需要專心「培育無限產能的AI」。

同時為了降低使用者入門門檻，「CaiGunn（開講）」也支援超過100種提示語（Prompt）範例，讓使用者更接地氣的跟AI溝通。CaiGunn的企業版方案，支援任何跟文字處理相關的應用，常見的應用包含「GenAI智能客服」與「GenAI知識管理」等，企業除透過「CaiGunn（開講）」平台擴展應用場景還能以此管理企業的深度知識。截至目前，APMIC各項方案皆通過HPE ProLiant Gen11伺服器驗證，生成式AI將會改變產業發展，因此雙方正積極聯手展開緊密的合作，希望廣邀請夥伴與客戶一起參加APMIC工作坊，一起體驗如何以GenAI創造無限產能。

大綜電腦力推JetGPT，無需連線雲端與支付Token費用

另一夥伴為大綜電腦系統，是一家專業全方位系統整合服務商，全省皆有服務據點，一向以高素質的員工、完善的服務，以及對各種承諾的堅持而著稱，且海外台商較多的區域也設有據點。大綜電腦是HPE金級經銷商，透過HPE Proliant Server, Simplivity, Superdome等基礎架構產品，積極協助用戶建構新世代資料中心。

大綜電腦現已發展一套與ChatGPT類似的生成式AI系統「JetGPT」，皆可讓User以自然語言進行溝通，透過Chatbot的UI輸入提示（Prompt）。惟JetGPT有別於ChatGPT之處，在於Prompt會先到RAG系統，藉由向量距離原理等技術，從事先建置的知識庫（Chunk）中取出與Prompt相關的文章段，再由Chunk重新整理Augmented Prompt，傳給LLM進行推論。

顯見JetGPT相對於ChatGPT擁有更多亮點。例如企業可運用内部知識資料來訓練AI，避免機敏資料外洩。透過RAG讓回應更具專業性，降低LLM幻覺問題。在地端使用，不需與任何AI/LLM雲端連線，亦不需支付任何Token費用。而JetGPT適合的應用場域甚多，可一舉滿足技術工程GPT、品管GPT、生管GPT、設備GPT、業務企劃GPT、人資GPT，客服GPT等應用需求。

目前大綜電腦推出三款JetGPT產品，其中JetGPT 7B擁有70億參數，每秒輸出110 Token，可運行於HPE ProLiant DL380a Gen11伺服器、搭載2個NVIDIA L40S（48GB）GPU，執行分類與摘要任務。JetGPT 13B擁有130億參數，效能為220 Token/秒，需4個L40S（48GB）支援，可執行翻譯、情感分析、對話等應用。至於JetGPT 70B擁有700億參數、效能為4400 Token/秒，需8個L40S（48GB）支援，可執行複雜文章分析、因果分析、歸納總結、創意發想等任務。

總括來說，HPE透過與APMIC及大綜電腦三強聯手，可依造企業的實際需求，提供相對應的服務，具有高彈性並提供軟、硬體上的支援，大大助力企業大幅加快AI轉型進程。