力麗科技攜手戴爾 以AI Factory搭建企業智慧轉型最速捷徑
- 李佳玲/台北
現今人工智慧(AI)浪潮席捲,以前所未見的速度改變商業世界勝負規則;驅使企業急欲建構如同「人工智慧工廠」的機制,期望加速AI應用開發,從而在這場變革中搶先躋身勝利組。
為此力麗科技攜手Dell Technologies戴爾科技集團,於日前擧辦「AI戰力,神速就位 – 把AI帶入您的資料」論壇,希冀帶領企業掌握AI時代所需技術與服務,一步到位打造專屬AI工具箱,運用資料開創業務創新價值。
力麗科技系統服務事業部副總經理張榮城表示,當前AI浪潮湧向全球,不論產業競爭乃至人們日常生活,觸目所及盡是AI;因此借重戴爾及其生態系夥伴APMIC亞太智能機器的顧問專家分享經驗與技能,協助企業隨需打造各種智慧應用場景。
善用Dell AI Factory,加速肇建創新大局
戴爾科技集團技術副總經理梁匯華指出,戴爾提出的AI工廠,是一個端到端創新方案,可幫助企業加速採用AI並提高生產力;它全面整合戴爾的運算、儲存、軟體與服務功能,支援從模型建立到推論各種AI應用,以利企業將數據轉化為有價值的見解與成果,快速實現AI投資報酬。
談及AI實踐,需要算力、資料與模型三者到位並形成閉環,此即為AI金三角概念,其間有賴好的網路居中串聯,藉此建立大規模訓練和推論環境。
正所謂萬事起頭難,企業不管要啟動AI或GenAI專案,務求先確立Use Case,有了目標,後續即能準確執行人力、技術、營運等種種資源配置。
以戴爾為例,主要藉由4個Pillar來構築自家AI拼圖,箇中邏輯值得企業學習。一是將AI放入既有產品;二是確保產品可承載AI活動;三是將AI融入產品和服務的Portfolio;最後讓AI與客戶連結,透過AI立即掌握客戶需求,自動連動到銷售、報修等相關行為。藉由這四個方向發展AI的Use Case,接著再利用AI Factory付諸實踐;其中需要藉助Lakehouse集中收容數據,亦利用戴爾獨有的AI-driven Infrastructure完成平台搭建。
顯見對有志發展AI的企業來說,最重要就是定義Use Case,簡言之便是找出兼具高商業價值、高可行性的場景。如何挖掘場景,固然考驗企業本身功力,但戴爾亦可助一臂之力,援引其新加坡資料科學團隊能量,協助客戶進行商業價值與可行性分析,先找出潛在Use Case,再提供4~8週顧問甚至開發服務,確認Use Case發展目標,再根據相關Workload檢視所需運作資源,然後打開戴爾AI Factory形塑的「潘朵拉盒子」,把諸如DDAE(Dell Data Analytics Engine)資料分析引擎等經過戴爾驗證的必要工具帶起來,快速建構資料中台,形成企業專屬端到端的AI Factory。
援引高速算力與現代湖倉,優化模型訓練與微調
接著由來自戴爾、亞太智能機器(APMIC)的專家依序開講,接力闡釋AI Factory中各個關鍵拼圖。戴爾科技集團資深解決方案架構師葉恩任表示,基於安全存取、通用性、準確性/控制/定製、成本、數據停留位置等綜合考量,現今企業多採自建方式導入LLM,因而需要因應生成式AI從無到有發展階段,部署對應基礎建設,順利支撐模型增強(RAG)、模型微調(Fine-tuning)等必要工序。
針對算力,戴爾提供各式運算設備,包含可支持逾175B參數的XE系列GPU伺服器,其中XE9680足以媲美NVIDIA DGX的運算效能,且以400/800GbE 乙太網路做為Back End連接,以利企業能以遠低於InfiniBand的建置成本實現超高IOPS與Throughput。
亞太智能機器(APMIC)執行長吳柏翰,分享如何以其CaiGunn繁中語言模型助力加速LLM私有化。他強調今後欲開發多模態GenAI應用,勢必需要藉助70B以上的模型,訓練過程所需動用的H100 GPU數量有增無減。
經測試證實,欲訓練一個1B模型,需準備1兆Tokens,動用256張H100,預估投注新台幣3.8億經費。反觀若基於CaiGunn做Fine-tuning,預算需求驟降為1,600萬元,Tokens需求驟減至1,000萬個,足見其核心價值即是大幅降低企業AI應用門檻。
擔綱壓軸演講的戴爾科技集團資深產品業務協理徐志良,述說實作GenAI的最佳資料整合與儲存策略方案。包括藉由PowerScale優化AI模型訓練及微調,同時提供新世代數據中台結合Lakehouse湖倉一體方案,有效整合企業內眾多數據源。
所謂湖倉是結合數據湖與數據倉儲,形成全新統一體系架構,解決數據孤島問題。其底層採用平行分散式S3平台,具備絕佳擴展性;再結合數據虛擬化或稱數據聯邦技術,為前端各類AP提供接口。為此戴爾以其DDAE引擎整合Starburst的多元Data Connector,組成現代化湖倉,滿足AI Factory版圖中至關重要的一環。
總括來說,戴爾全面支持現代資料中心、資料倉湖、多元模型,並串聯諸如APMIC等第三方ISV工具,得以淬鍊成完整AI Factory方案,使企業化繁為簡迅速將AI/ML與GenAI能量注入資料當中。