群聯與迎廣聯手推出生成式AI及企業級PCIe Gen5解決方案
群聯「aiDAPTIV+」生態圈再擴大,具備專業電腦與伺服器機殼製造及系統組裝能力的迎廣科技(6117-TW)將透過與世界級NAND 控制晶片及儲存解決方案領導者群聯電子(8299-TW)合作,完善 AI 硬體生態系以擴充整體產品線佈局,提升客戶一站式購足的服務體驗。
依據IDC(國際數據資訊)指出預計到2027年,全球在AI解決方案上的科技支出將成長到5,000億美元以上,未來企業將更關注AI技術投資以及AI驅動的產品與服務。而隨著2025年Windows 10停止服務支援及 GenAI 應用彰顯下,AI PC發展也逐步顯露雛型,預計這波成長動能將首先在商業市場發酵。
AI的使用將從選擇變成必要,生成式AI應用也將成為個人成長與企業營運效率的加速器,AI設備的成本與投資報酬率的預估,始終為企業將AI 視為生產工具或作為產品銷售的痛點,該如何在提高企業產業競爭力、保有其AI 訓練資料不外流及面對實際資源有限下取得決策平衡是一大課題。
迎廣表示長期以來是系統品牌客戶的堅強後盾,同時也會提供客戶專業的設計建議和技術服務,而這些軟實力正是公司成功進入AI伺服器供應鏈、高階水冷工作站及機櫃式水冷散熱方案等硬實力領域的重要關鍵。近年來迎廣投入高U數AI伺服器生產製造及測試設備,系統組裝能力可達Level 11,從個人電腦、工作站到伺服器等機殼產品線齊全,從標準品與客製化機殼的設計生產到系統組裝測試皆屬迎廣服務範疇。
本次迎廣高階水冷散熱解決方案採用群聯「aiDAPTIV+」SSD,讓企業可以在地端以合理的價格使用主流的大語言模型(LLM),並透過微調(Fine-tuning)運算,令企業專屬應用快速落地使用,AI模型微調運算的過程中亦能仍保有資料的安全性與不外流。
「aiDAPTIV+」是透過群聯自主開發的獨家專利中介軟體,可將SSD當作GPU的延伸DRAM記憶體使用,解決AI模型運算中,因為AI模型不斷擴大導致DRAM記憶體容量不足的問題,大幅提升大語言模型(LLM)的訓練效率與使用普通工作站來微調訓練LLM的可行性。
群聯執行長潘健成表示:「生成式AI落地應用的最大挑戰有兩點,AI硬體運算成本太高以及資料安全性。群聯獨家專利的aiDAPTIV+技術方案,不僅能有效地降低生成式AI模型落地微調運算的硬體成本,更能在不需要連網的環境下,進行AI模型微調運算。這與動輒就需要千萬甚至上億的費用的解決方案相比,將更有助於生成式AI的落地普及平民化,且更重要的是,企業機密資料沒有上傳雲端外洩的風險。當前採用aiDAPTIV+方案的客戶已遍及各行業,加上aiDAPTIV+不僅有助於地端運算的效能提升,且能更好的保護機敏性資訊,目前已有超過80個aiDAPTVI+方案導入的生成式AI落地應用成功案例。」
迎廣與群聯合作除「aiDAPTIV+」外,也跨足Gen5 企業級固態硬碟等相關產品,新產品線的加入為公司的產品組合帶來了更廣泛的選擇,也滿足客戶從專業級到企業級應用所需的資料存儲、穩定傳輸與保密需求。透過迎廣的一站式服務,將能夠更全面地提供多元產品組合與面對各種服務需求,客戶無需再花費大量時間去尋找不同供應商的零組件產品,可降低客戶總投入成本並提升迎廣整體服務價值,實現與客戶一同成長的雙贏局面!
迎廣與群聯雙方的合作將是一種全面的夥伴關係,通過結合迎廣在硬體製造與系統組裝方面的核心能力,以及群聯在固態硬碟技術領域的領先地位,雙方將充分利用各自業務領域的核心競爭優勢,攜手提供 GenAI 與 Gen 5 解決方案,一同拓展全球市場,並為AI硬體生態系帶來更多創新和可能性。
迎廣將於2024年6月4~7日的COMPUTEX台北國際電腦展上發表以AI為核心概念的硬體生態系列產品,展品內容豐富多彩,必將吸引眾多的關注與期待!
2024 COMPUTEX TAIPEI台北國際電腦展
展覽時間:2024/6/4~6/7
展覽地點:南港展覽館一館一樓,迎廣展位號碼J0806