IBM為企業量身打造AI利器 watsonx架構與功能滿足多元需求

生成式AI在全球掀起新浪潮，引發了科技巨頭的激烈競爭，相較於其他科技大廠致力投入的通用大型語言模型，同為業界巨擘的IBM的布局相當不同，2023年5月推出了watsonx聚焦於企業應用，搭配IBM知名的顧問諮詢服務與工作坊課程，協助企業打造合乎自身需求的AI平台。

watsonx貼合企業需求 安全靈活兼具成本效益

台灣IBM首席系統架構顧問趙文振指出，產業類型多元，彼此特色不同，即便是同一類型產業的業者，痛點與需求也有所差異，「因此IBM並未開發通用型大型語言模型，而是針對不同產業客製化模型，watsonx可讓企業將自己訓練的模型掛載在平台上，讓安全性與靈活性最大化。」他接著表示，IBM watsonx的另一特點是混合雲使用模式。不同於一般生成式AI平台以雲端為主，watsonx可在雲端、地端或任何企業選擇的地方執行AI運算，因此特別適合企業用戶。

與IBM合作多年的北祥科技服務技術顧問郭泰源也提到，「從客戶的回饋中，可看出watsonx之所以能在企業端廣受好評，主要源於幾大優勢。首先是可在地端運行，從而有效確保資料安全的特色，特別適合對資訊隱私高度敏感的企業研發單位。其次是watsonx提供的語言模型規模適中，且專注於滿足企業在生產製造、流程優化等特定領域的需求，這種針對單一領域的特性，不僅可提高效率，還能有效降低成本支出，讓企業有限預算內實現AI應用。第三是平台的靈活效能適應企業既有流程，並支援雲端和地端部署。北祥科技服務AI服務設計師劉孟函則在為客戶設計、導入AI相關解決方案時，發現許多企業採取較為謹慎的態度，初步應用多集中於知識庫、生成技術報告等內部流程優化，未來則會視導入狀況延伸應用觸角。」

除了上述優勢外，watsonx平台另一備受企業青睞的亮點功能是檢索增強生成（RAG）。趙文振表示，RAG的運作原理是在AI系統旁邊設置一個不斷更新的知識資料庫。AI面對新的問題時，會從這個資料庫中提取相關資訊，從而提供更準確、更即時的回答，「這種方式不需要持續重新訓練大型語言模型，而是透過即時檢索最新、最相關的資訊，強化AI的回覆的精準性，並提升使用者對系統的信任度。」

為了讓企業快速取得watsonx，IBM近期擴大與AWS合作，將watsonx上架到AWS雲端市集，企業可在AWS Marketplace上選擇watsonx服務，並於AWS基礎架構上部署，無需經過複雜的採購程序。此外，IBM還在市集中提供配套的顧問服務，使客戶能夠同時獲得產品部署、規劃和建置的全方位支援。透過一站式購物體驗，企業可以輕鬆快速選擇、購買所需的AI服務和支援。

專業顧問諮詢服務 協助企業擘劃AI藍圖

趙文振強調，顧問諮詢服務是IBM解決方案的重要一環，在企業IT領域中，除了提供技術和產品外，更扮演了客戶AI轉型的戰略夥伴。「我們的顧問團隊就像為企業AI特種部隊訓練員幫助客戶從AI領域的陌生者轉變為熟練的使用者，客戶從AWS雲端市集上選購watsonx平台並勾選諮詢服務後，IBM專業顧問團隊就會與之密切，深入瞭解客戶端的具體需求，協助他們設定並達成目標。」

IBM提供的顧問諮詢服務，採用該公司著名的「車庫方法論」（Garage method），引導客戶探索和規劃獨特的AI發展路徑，並透過一系列思維工作坊，共同探討釐清客戶需求和AI應用可能性，並設計適合的運行流程，藉由互動式合作，制定切實可行藍圖，確保AI技術可以有效整合到企業的業務中。

車庫方法論與思維工作坊運作多年，北祥科技服務已藉此機制服務眾多企業，為客戶帶來實質效益。郭泰源表示，近兩年生成式AI快速興起，多數企業對此技術深感興趣，但往往不清楚如何將應用到實際營運中。北祥科技服務與IBM顧問團隊合作組織的思維工作坊，引導客戶思考如何將生成式AI融入企業生產、銷售和行銷等日常運作中。

劉孟函表示「在服務過程中，我們察覺許多企業雖渴望創新，卻因新技術帶來的未知而有保守心態。」為協助客戶在這兩者間取得平衡，北祥科技服務採取深入訪談策略，先評估客戶的實際需求，找出可優化的具體流程，並在系統設計時兼顧成本效益。隨後，透過頻繁溝通，確保導入的系統既能滿足客戶創新需求，又符合現實條件，此方法不僅提高了AI建置成功率，也可強化企業對AI應用的信心。

在IBM與北祥科技服務的通力合作下，台灣已有企業著手啟動AI計畫。對於相關策略規劃，三位專家都建議企業善用外部專業力量，以收事半功倍之效。趙文振指出IBM在AI領域主要聚焦於三大企業應用方向，包括改善客戶體驗、提升員工生產力，以及加速流程優化，藉由明確的戰略聚焦簡化導入過程，讓客戶的轉型過程更順利，實際提升營運效益。

劉孟函表示，北祥科技服務持續投入資源以深化領域專業，目前已經投資購買GPU伺服器，並實際測試生成式AI的各種應用。「我們已經評估多家大廠的AI模型，無論是圖像生成、文件生成還是中文理解能力，都希望可為客戶找到最合適的解決方案。」除了強化軟硬體技能，北祥科技服務也側重人才培訓，積極參與IBM watsonx等各種教育訓練，學習如何應用不同模型以滿足市場需求，協助企業打造最適化生成式AI解決方案。

郭泰源則提到，北祥科技服務多年來持續將IBM在全球各產業的豐富經驗，轉化為客戶的競爭優勢，近期生成式AI浪潮席捲全球，北祥科技服務將運用IBM的watsonx平台、豐富產業知識與先進技術，讓客戶輕鬆擁抱AI，以新思維、新技術站穩市場腳步，擴大自身競爭力。