白帽駭客看生成式AI：將成資安新戰場
- 林佳楠／台北
-
生成式人工智慧（AI）工具雨後春筍般出現，企業應用有何風險？主打攻擊型服務的資安公司戴夫寇爾（Devcore）認為，生成式AI對攻擊者是一大利多，料將成為攻防新戰場。AppWorks董事長暨合夥人林之晨日前也點名，生成式AI與資安是2023年值得關注的科技趨勢。
戴夫寇爾於2012年由白帽駭客團隊成立，主打紅隊演練、滲透測試、顧問服務及教育訓練等技術服務。至今已為高科技半導體製造、金融、公部門、電商等大型企業及組織執行過近70場紅隊演練。據其內部調查，目前上市櫃公司約有2～3%已採購紅隊演練服務。
被問到生成式AI伴隨的資安風險，共同創辦人暨執行長翁浩正認為，企業首先要問的是，要不要用AI？若要使用，則應留心使用條款，包括AI平台會如何運用用戶上傳的資料、是否拿來提供模型學習、會否分享給其他人等，都是易遭用戶忽視的面向。
翁浩正也分享，近日與某些企業資安長餐敘，有人提到使用ChatGPT分析歸納內部文件的重點。對此，他強調，「千萬不要，先等等。」畢竟相關工具是建立在雲端，而非自建伺服器，資料外洩風險將提高。
駭客也可能利用生成式AI提高攻擊效率，例如快速量產釣魚信件、社交工程內容。不過他認為，這類信件內容生成的成本原本就低，影響不明顯。
資料隱私和身分識別還是比較麻煩的議題，深偽技術讓假照片、假影片幾可亂真，未來也會出現更多偵測AI生成文字、圖片、影片的新技術，「確實會是未來攻防的新戰場，」翁浩正說。
戴夫寇爾資深副總徐念恩指出，生成式AI對攻擊者也是一大利多，攻擊者可把特定資料餵予ChatGPT，快速衍生出更多攻擊手法、甚至學到新手法。
Check Point Software 大中華區董事總經理何偉國認爲，2023年將成為新AI元年，生成式AI工具雖降低了打造惡意程式的門檻，但如何發揮AI潛力卻更為關鍵。企業可善用AI打擊愈加複雜的網路攻擊。
AppWorks董事長暨合夥人、台灣大哥大總經理林之晨日前在Facebook點名五大科技趨勢，生成式AI與資安也上榜。
林之晨於貼文中寫到，「2023勢必是詭譎的一年，但也是極適合深耕與啟動變革的一年，」並強調生成式AI、節能、機器人流程自動化（RPA）、D2C（Direct To Consumer ）/OMO（Online merge Offline）、資安與個資安全等五大科技領域，值得創業者和經營者特別關注。
他提及，疫情加速社會數位化，許多「數位新移民」長者是首次使用帶有個資、數位與金融資產的線上服務，詐騙溫床因而形成。
林之晨認為，企業對資安的重視度勢必提高，資安事件對商譽的影響也勢必放大。同時，社會與政府也正要求企業提升對資安與個資安全的投資，這些都是新創的機會。
責任編輯：毛履兆
