AI治理成企業新課題 IBM攜手群環科技推全方位資安解決方案 智慧應用 影音
Microchip
Event

AI治理成企業新課題 IBM攜手群環科技推全方位資安解決方案

  • 魏于寧台北

快速襲來的生成式AI浪潮,被企業視為提升營運效率的最佳助力,不過其安全性也引發諸多疑慮,近期就有多則相關新聞,像是好萊塢演員抗議Open AI公司未經授權使用其聲音,用於模擬並在AI平台上發聲。這種聲紋被盜用的情況,不僅引起當事人的強烈抗議,也讓企業開始擔憂使用生成式AI的安全性。

AI安全與隱私成焦點 企業需謹慎應對

在IC之音主持人朱楚文(中)的「IBM話AI」節目中,群環科技技術總監郭柏森(左)與台灣IBM資訊安全技術顧問蔡睿誠(右)均強調,企業在導入AI技術時,需重視資料安全管理和AI治理,以確保在享受AI效益的同時,有效管控相關風險。IC之音

在IC之音主持人朱楚文(中)的「IBM話AI」節目中,群環科技技術總監郭柏森(左)與台灣IBM資訊安全技術顧問蔡睿誠(右)均強調,企業在導入AI技術時,需重視資料安全管理和AI治理,以確保在享受AI效益的同時,有效管控相關風險。IC之音

對於生成式AI技術引發的安全性議題,台灣IBM資訊安全技術顧問蔡睿誠,以蘋果手機近期的廣告策略為例,有別於過往側重性能和硬體規格的宣傳手法,蘋果這次將焦點轉向了隱私保護議題,這則廣告傳達出明確訊息,每位蘋果手機使用者都能擁有可信賴的私人空間,「蘋果公司行銷方向的轉變突顯出一個重要趨勢,在科技快速發展的今日,消費者越來越重視個人隱私的保護,這也反映出大眾對科技公司的期望已不止於產品功能,更期待科技提供可靠、安全且值得信賴的使用環境。」因此在產品開發的AI訓練過程中,科技公司必須嚴格把關資料來源的安全性與適切性。他強調,生成式AI的安全性,取決於是否能在使用資料和訓練過程中遵守相關框架和原則,「透過嚴謹流程的遵守,對生成式AI的使用能讓效率提升的同時,大幅降低安全疑慮。」

群環科技技術總監郭柏森則從應用場景的轉變切入。由於目前生成式AI的應用仍以人機互動為主,因此他提醒使用者要提高警覺,與AI的對話內容有可能被納入之後的訓練資料中。郭柏森建議企業謹慎篩選訓練資料集,並以去識別化方式處理敏感資訊,從而降低資安風險,「整體而言,企業員工在處理資料時需要更高的警覺性,判斷哪些資料適合放入訓練模型,哪些需要特殊處理,從源頭做起,才能打造安全的AI使用環境。」

上述資料安全管理機制,與AI治理概念息息相關。蔡睿誠接著指出,AI治理的核心是保護隱私和確保AI的道德使用,防止技術被濫用於非法或侵犯人權的領域,這不僅涉及資料安全處理,還包括系統的整體設計和使用原則。IBM作為AI領域先驅,早已建立AI道德倫理監控機制,致力開發可信賴的AI系統,希望為企業AI治理樹立典範。因此他建議企業可善用IBM提供的全方位的支援服務,「我們的角色類似〝企業AI整理師〞,透過諮詢服務和各類科技工具,協助企業評估、規劃、導入系統,在享受AI帶來效益的同時,有效管理相關風險,確保AI的使用符合道德和法規標準。」

群環科技與IBM協力 強化企業AI安全與資安防護

在此服務過程中,群環科技長期扮演IBM的最佳夥伴,雙方30年來深度合作,協助台灣企業善用IT力量,提升營運效率。郭柏森表示,群環科技與IBM的合作已從初期的硬體系統建構,逐漸轉向數位化軟體解決方案,「這幾年數位轉型成為趨勢,群環長期深耕此領域,我們認為有責任帶著客戶向前走,與IBM強強聯手,引領客戶邁向數位化未來。」

關於企業的資安管理需求,郭柏森點出目前主要聚焦在資料保護和資料使用安全兩大層面。資料保護方面,群環科技運用IBM的儲存解決方案和端點防護措施,協助客戶建立包括資料備份、還原功能在內的全面性資料保護機制,從而降低資料遺失風險。資料使用安全,則著重於建立非法或異常使用行為的偵測和預警系統。

蔡睿誠進一步闡述,IBM與群環科技的合作早已深入到資料分析、分類和應用研究等領域,近幾年AI興起後,更延伸到AI模型的安全性和治理。對此他特別強調AI模型的可解釋性和正確性的重要,「IBM提供專業的資料梳理服務,包括資料去識別化和敏感資訊處理,以確保輸入AI模型的資料安全無虞。」這不僅可提高AI模型的安全性,也增強了其可解釋性和準確度,為AI治理奠定了堅實的基礎。

除了內部的AI治理,外部威脅防範也是資安重點。根據IBM的年度威脅情報指數報告,製造業和金融業連續兩年成為駭客攻擊的首要目標,作為全球AI重要供應鏈蓬勃發展的台灣廠商,更容易成為駭客覬覦的對象。面對駭客威脅,蔡睿誠建議企業定期檢視如IBM等專業機構發布的威脅情報報告,了解最新的攻擊手法和趨勢,並提高警覺性,認知AI技術不只為企業帶來效益,也可能成為駭客的工具。

實際防護措施的第一步最佳做法是善用外部專業力量,例如透過IBM的資安諮詢服務,進行專業評估和系統安全防範規劃,再利用群環科技的DaaS (Device as a Service)端點設備租賃方案,以聰明靈活的方式管理IT設備和資安需求。郭柏森提到,DaaS模式將資產費用化,企業能以租賃方式逐期支付,大幅降低初期投資壓力,此機制內的資安軟體預裝服務,可確保企業及時使用最新資安技術,並藉由「以新汰舊」的漸進式設備更新策略,避免一次性大量汰換的巨大開支,另外群環科技DaaS的資安防護系統也整合AI技術,可有效應對不斷演變的駭客威脅,提供企業靈活、安全且先進的IT環境,強化整體營運效率和資安防護能力。

對於AI時代的資安意識,蔡睿誠與郭柏森最後提出企業應關注的重點。蔡睿誠指出,生成式AI技術雖可提升營運效率,但內容正確性和智慧財產權等問題也隨之而來,因此使用者必須扮演裁判角色,思考AI生成資訊的正確性、評估其可信度與安全性。郭柏森則指出,面對AI和數位轉型等新技術、新概念時,企業不免心有徬徨,且擔心IT系統被入侵、攻擊。對此疑慮,他重申企業善用外部專業力量,例如群環科技攜手IBM提供的整合性解決方案,就結合AI、雲端和大數據技術,以一站式服務與全方位的支援模式,協助企業積極應變IT浪潮,在享受科技紅利的同時,關注潛在資安風險,從而強化競爭優勢,實現永續發展願景。