智慧應用 影音
泰富國際
榮耀會員

對抗精進的深偽 東京大學推出更強破解AI

深偽技術顛覆眼見為憑概念,帶來辨識AI進化,日本最新SBIs技術以高精度及不須假資料學習,引發關注。圖為瀏覽網路影音的使用者。法新社

日本東京大學(University of Tokyo)公開新的AI辨偽技術:SBIs(Self-Blended Images),對抗以AI製造幾可亂真畫面與影像的深偽(Deepfake)技術,並指出此一技術以5種辨識技術指標評比,在其中4項獲得最高表現,僅1項獲得10種技術中的第2名,細節將於2022年6月19~24日在美國發表。

透過製造假新聞執行的資訊戰,在2010年代因AI的快速進化,出現新的層面,「深偽」讓受害者積極研發反制技術,如2020年美國IT大廠微軟(Microsoft)推出的Microsoft Video Authenticator。

但深偽技術也隨反制技術出現而進化,針對2020年Microsoft Video Authenticator或其他較早技術的弱點,如辨識破壞性壓縮調整過的檔案,或是照度差異大的影像,辨識成功率下降的缺點,提出解答,使得偽造與辨識技術鬥爭,持續升級。

就辨識端而言,目前碰到的主要問題之一,在於學習樣本,目前的辨識AI學習資料,需真偽並呈,因此當新的深偽技術偽造圖片影片出現時,很可能抓不出來,需要重新學習,讓辨識始終落後於偽造技術一步。

根據東京大學大學院情報理工學系研究所的研究團隊發布消息,以既有Face X-ray +BI技術比較,若沒有偽造資料與正確資料一起學習,則辨識效果在不同指標中將降低2~9%,失誤率有可能提高到近30%。

而SBIs技術的優點,據研究團隊指出,在於學習過程中會自行從正確資料中產生可能的偽造資料,據以進行學習,因此不需要額外提供偽造資料;且因具高度偽造資料模擬研判能力,可望預測深偽技術的發展,即使是新出現的深偽技術,也有辦法應付。

目前SBIs針對的是圖片深偽,至於影片辨識技術,日本國立情報學研究所(NII)在2021年已公布其程式,SYNTHETIQ(Synthetic video detector),可以嵌入網頁,避免引用深偽製造影片而不自知,是否持續升級仍未公開。

這項SBIs技術,將在電腦影像處理相關領域的國際學術研討會中,對外公開,同時也將公開SBIs技術的下一步發展方向,以利提高辨識精度及預測深偽發展方向,根絕濫用AI技術的問題。

  •     按讚加入DIGITIMES智慧應用粉絲團
更多關鍵字報導: 美國 東京