活用雲端基建，開創數位、綠色雙軸轉型新未來
- 闞大成／DIGITIMES企劃
-
現今已是AI時代，眾所周知數據成為了新石油，因此各行各業都急欲完整地保存、萃取與應用數據，但單憑傳統地端架構無法成就此事，所以需要借重雲端賦能與協作，從而促使雲端儲存、運算、網路等基礎建設日趨完善，加上終端行動裝置逐漸普及成熟，使得「數位轉型、綠色經營」蔚為新浪潮。
因此，如今絕大多數企業機構皆有所體認，「雙軸核心」已成為營運升級前的必考題，這對於企業而言固然是一筆投資，然而更是一場長期布局與挑戰。著眼於此，DIGITIMES舉辦一場定調在「雲端基建與雙軸轉型」的論壇，希冀藉助產學研各界專家釋出寶貴的經驗與知識，讓來自於企業的廣大聽眾有所啟發，知道如何迅速乘上雲端浪潮，實踐業務永續的終極目標。
透過可信賴雲端，加速產業應用與學術研究發展
國研院國網中心主任張朝亮，以國網中心（NCHC）提供的可信賴雲端資料分析環境與雲端服務作為演說主題。他指出，NCHC提供的雲端服務與有別於一般雲平台，偏向Specialty Cloud屬性，像是NCHC最擅長的HPC Cloud。
有鑑於產品應用開發、學術研究或是先進研究，都需要存取HPC主機，促使NCHC打造HPC Cloud。談到常見的雲端服務存取模式，多是利用VM來設定一個叢集、然後直接運行，但NCHC亟欲營造高效能運算（HPC）環境，讓用戶直接存取後端主機，故未採取一般模式，特別打造足以避免延遲（Latency）的中間網路，作為服務的一大特色。
另外論及NCHC所訴求的「可信賴雲端」，主要是引進Network Partition概念，考量用戶須傳輸機密資料，因而提出一個具隱私保護、資料加密的網路；而當資料進入雲端時，NCHC再以Data Partition、Secure Enclaves加上Data Residency，據以實現資料不落地；後續完成訓練，就直接送出結果，並以安全加密機制高度保護資料，藉此翻轉「Bring Analysis to Data」傳統模式，形塑「Bring Data to Analysis」新局。
擁抱大智物雲，以數據、通訊及科技改善校園問題
東海大學圖書暨資訊處圖資長楊朝棟，闡釋該校在「大智物雲」（雲端服務、大數據分析與智慧物聯網）的發展成果。他強調學校猶如小型都市，因此若能做出好的智慧校園，可擴展到整個智慧城市，反之亦可將智慧城市概念縮小到智慧校園；為此東海提出「SMILE」概念，期望運用數據、通訊及科技來改善校園中的服務、管理、生活資訊、學習、環境等問題，讓師生都能因為智慧而微笑。
推動智慧校園的初期，重點在於建構雲端化智慧服務應用、虛擬化資訊系統、數位化資料應用。後來隨著少子化、淨零排放等諸多議題崛起，驅使東海智慧校園與時俱進，納進生成式AI、資通安全、AIoT應用、智慧＋、SDG/ESG等新元素。
值得一提，在國內大學，東海堪稱軟體雲的先行者，約10年前便以VMware的vSphere和Horizon為基底，讓師生可在任何地方遠距存取校方軟體。後續進入AI／生成式AI時代，東海斥資建構GPU環境，方便師生來運用，存取諸如Stable Diffusion等現今火紅的生成式AI模型。
DevOps加上AI，大幅優化委外管理效能
資策會商業經理林君容，探討如何實踐AI驅動的委外管理，提升管理效能。近3多年她聚焦發展DevOps，希望開發團隊只需送上程式碼，就能自動展開一連串測試，不再需要由管理者緊盯每位開發者做什麼修什麼，即可確知此程式究竟有無品質或漏洞問題。
她強調DevOps重點在於促成跨職能合作，意即在同一個小團隊匯聚不同職能，搭配各項自動化工具，協力快速解決複雜問題。發展過程中亦需推動Platform Engineering，把DevOps變成一個Platform，讓使用者（工程師）真正專注在他的專長。另隨著攻擊日新月異，必須將安全檢測納進DevOps。
至於AI可幫到DevOps什麼忙？因DevOps環境充滿程式碼，據調查約有70%程式碼反覆於各專案，但多數人無意重複運用程式碼，寧可發包請廠商重寫，因為要讀取消化既有程式碼，得花1.5倍的工，不如重新發包。既然委外需求大，承辦人可透過DevOps搭配AI，安心做好合約管理、版本管理、程式碼管理與安全檢測，並藉由持續交付，清楚掌握每段測試結果，更易於控制風險。
發展企業AI應用，務求破解AI幻覺
DIGITIMES研究中心分析師陳冠榮預期，未來我們可看到除LLM模型規模持續擴增外，也會逐漸看到更多元的發展趨勢。
關於此，大致歸納3個方向。一是LLM逐漸走向多模態，不只是文字生成文字，還有文字生成圖片或影音等。二是LLM開始追求小型化，如Llama2有不同參數規模，旨在讓模型能搭載在邊緣或終端裝置。三是雲端業者開始著重不同垂直應用，希望為各產業提供專屬模型，意謂AI發展不再只趨向一般消費者，也走向更多的企業或產業應用。
惟談到企業應用，勢必更重視模型正確性，以避免因AI幻覺而造成實損失。所以像是模型再訓練、模型微調，或是提示詞精確化、RAG等議題，可望受到更大關注。
雲端服務＋智能搜索，開創AI商業應用
蓋亞資訊業務經理陳勁瑋指出，企業已歷經3次轉型，一是從地到雲，突破地理限制並獲取更佳算力、輕易拓展全球生意。二是容器化，增加企業服務的可移植性、效率與安全性。三是AI，也包含近期火紅的生成式AI（GenAI）、大型語言模型（LLM）。
惟關於GenAI與LLM，尚有幻覺問題亟待解決。為此陳勁瑋介紹兩個解方，一是加入關鍵字（Prompt），二是檢索增強生成架構（RAG）；其中Prompt如瞄準鏡，幫助我們對症下藥、加速找出所需解答，至於RAG，則在答案丟給LLM前，先透過內部檢索比對資料，提高整體回答的準確性。而蓋亞致力結合智能搜索（Prompt＋RAG）與雲端服務，期盼創造1加1大於2功效，助企業加速建構高效準確的GenAI應用場景。
善用無伺服器服務，加快Go to Market進程
AWS SSO lead產品團隊經理Cathy Lai，針對無伺服器（Serverless）議題展開演說。她指出Serverless對AWS非新課題，早在2016年便催生Lambda第一個服務；發展至今，舉凡前端運算調度，乃至後面的API整合、資料整合，逐步達到全線產品Serverless化。如同AWS與Amazon.com技術長Werner博士所言，再無一台Server需要由客戶營運和維護。取而代之客戶可直接啟用Serverless服務，快速Go to Market，且不使用時無需付費。
因此透過AWS Serverless運算架構，足以提供彈性擴展、成本節約且高效的運算成分；客戶可藉助不同Serverless元件的整合，輕易達到一個整合型架構。譬如前端運算架構進來後，由API Gateway轉發，調度後端運算服務，再存檔至資料庫如DynamoDB、Aurora Serverless V2，或最新推出的ElastiCache Serverless快取服務。
以數據中台延伸AI，形塑智慧製造應用大局
緯謙科技副總經理葉卯陽，分享緯謙參與的數位轉型與智慧製造應用案例。他表示，數位化牽涉甚廣，須做到自動化、可視化，往下延伸到數據中台，再藉由數據中台延伸至AI；而數位轉型是不斷循環滾動的歷程，絕非一個專案成功就結束。
數位轉型與智慧製造殊途同歸，最終目的都在於如何創造營收、創造更大價值。故數位轉型路徑、智慧製造路徑兩者相輔相成，係因產線中除了設備自動化外，還蘊含許多數位轉型發展空間，這些發展皆需藉助雲端、IIoT及AI三大技術。基於這些目標實踐，緯謙力推數據中台服務，透過自動化ETL功能與雲端運算引擎，即時活化OT與IT數據資源，助企業進行生產、研發、行銷決策化分析。
憑藉最佳算力配置，創造最佳AI應用成效
華碩電腦Data Center Solutions產品經理呂益丞，分享近年華碩集團針對AI運算的發展成果，期望營造一條龍服務優勢，爭取海內外企業青睞。
不可諱言，推動AI有一重點，需要準確衡量算力。為此華碩從2019年起一路跟隨NVIDIA等同業參與MLCommons組織，導入AI訓練和推論評測指標，讓客戶可根據需求，選擇具有最佳算力的產品。與此同時華碩努力精進韌體層、硬體層及訊號傳遞，得以在諸多MLPerf Benchmark締造佳績，使客戶能增強信心，確認只要善用華碩的GPU Server、NVIDIA HGX Solution，乃至終端的迷你PC或螢幕，即可達到理想的AI應用成效。華碩甚至自建大型語言模型，除部署到台智雲的雲服務外，亦支援On-permise佈建，方便企業做進一步的調優，直接進行7B、33B甚或180B的Token運算。
透過一站式SASE服務，建立雲網安融合優勢
香港商第一線台灣分公司售前經理高沛辰，暢談如何藉助公有雲接入服務、雲網安融合的一站式SASE方案，實現最佳雲端營運策略。
近年數位轉型、AI等議題延燒，但皆需以資安、連網效能為基底。為此第一線致力發展兩大關鍵服務，首先是公有雲接入，透過其MPLS核心骨幹，再以專線方式協助客戶接入各大公有雲，營造優於Internet的連線品質。其次針對資安，有鑑於混合辦公以及公有雲／SaaS等趨勢興起，第一線期望提供企業比VPN更安全的存取模式，故結盟國際級領導業者，打造兼具SSE（Security Service Edge）、ZTNA（零信任網路存取）及SD-WAN（軟體定義廣域網路）完整元素的SASE一站式方案，使遠端工作者能透過Internet安全地存取公司內部服務或雲端服務，在效能與安全之間取得最佳平衡。
以ITSM及Low Code為核心，快速建立AIOps高效流程
叡揚資訊系統直屬事業處副處長張祐嘉，闡述如何利用全視化IT指揮塔，營造「觀察（Observe）、判斷（Engage）、行動（Act）」自動化AIOps流程，以簡化複雜IT任務，提高效率並降低成本。
張祐嘉表示，綜觀IT人的日常，往往先Observe到某事件發生，再由人來判斷該怎麼解決，此時需憑藉網路監控、DB監控、User反應…等多方來源，甚至查Change Log，才決定後續行動方案，如重啟VM、加大磁碟空間或啟動RPA等。顯見中間Engage環節至關重要，需以完善的ITSM機制為依歸。為此叡揚推薦採用ServiceNow工具，係因它能輕易做到Connect Everything、串連所需資料，減短判斷流程，再利用平台所提供業界最豐富的CMDB與Webhook，輔以Low Code方式，快速做出任何你想要的Trigger，藉由SOP自動化方式，輕鬆排解各種IT維運難題。
援引科技電信能量，推動GenAI與安全應用
台灣大哥大企業服務新創服務發展處商務開發經理周謙程，分享如何以科技電信助力，幫助企業推展生成式AI與安全應用。
他指出「科技+電信」為台灣大哥大集團的雙軸轉型路徑，其科技電信藍圖以可靠的通訊服務為基石，穩定支持媒體娛樂、行動商務與企業服務全面擴展。其中的企業服務團隊，對生成式AI（GenAI）著力至深，不但用以改善集團對外服務，也從中累積豐富實務經驗，懂得放大GenAI好處並解決幻覺、偏見等疑慮，可協助企業建構完善的GenAI應用環境。包括提供底層GPU超算力平台，以私有雲交付整合繁中語料庫的LLM，搭配歷經AI 2.0國家平台、台灣大哥大ISO雲端機房…等專案淬鍊的資安能量，匯聚成扎實的Best Practice，最終透過技術與顧問團隊體現於客戶專案。
