智慧應用 影音
Truphone 線上活動
event

歐盟AI法規浮現六大角力場 將淘汰價值觀不符者

歐盟將立法規範人工智慧,樹立其其在科技立法的全球影響力和話語權。法新社

歐盟發布人工智慧(AI)法規草案,經濟學人(The Economist)認為這是歐洲以GDPR落實隱私權保護以來,再次證明其在科技立法的全球影響力和話語權。然而當中因為涉及許多爭議和利益角力,Politico評論指出,此新法影響深遠,已經有六大爭議浮現,料在立法期間成為各方勢力的角力場。

DIGITIMES分析師陳辰妃也指出,如果中國AI公司要進歐盟市場,除了要遵守AI新法,也要同時符合隱私規範,也就是GDPR,勢必會刷掉大多數的中國業者。

第一, 「嚴禁」的魔鬼藏在細節中。這些法令如何落實是一個問題。例如如何禁止透過潛意識技巧來操控人們行為的AI應用?如何禁止AI利用弱勢群體如兒童或是肢體殘障者?TikTok或是Facebook等社群媒體使用AI運算法來推播兒童相關內容給兒童消費者,是否會被判定為利用弱勢群體?此外,新法令也禁止使用即時的生物識別判讀系統來作為執法或是衡量個人信用評分等,除非是在例外情形下,例如必須以此來尋找綁架案受害者行蹤、追捕恐怖攻擊者及罪犯等。

有些應用聲稱可以辨識情緒或是某些生物特徵如性別、種族、性向和政治傾向等,被人權社運人士認為是不符道德標準。雖然這還是要進行辯論,但不排除被列為禁止使用的可能。

其二是對「高風險」的定義,是被歐盟認為有損社會與個人權益。這方面可能會包括AI被應用在自動駕駛、教育、聘僱面試、社會福利申請或信用評分等的用途,而被用在執法上的應用門檻也很高,例如申請政治庇護或是邊境管制管理。未來各方對此定義想必也會有一番唇槍舌劍。

第三,是合規審核。被認為是高風險的AI系統必須通過供應商證明其安全性,才會被允許在歐盟使用。那麼判定為「高風險」和「安全」的標準,就需要謹慎斟酌。產業界大多樂意接受由他們提出證據證明其產品的安全性,但學界與人權社運團體恐怕會主張相反的看法。

第四,新法規規定,將成立一個歐洲人工智慧委員會,作為該法的監理機構。因此委員會成員對於上述關鍵爭議的看法,將具有決定性的影響力。因此預料也會形成一波各方人馬搶佔位子的競爭。

第五個戰場將會是議會。新法草案在經過辯論和公聽會等流程後,將交由議會審議與表決,而現在已經有不少歐洲議會議員聯合上書給歐盟主席Ursula von der Leyen,希望直接禁止使用臉部辨識監視系統,也有另一些議員要求在發言上要更強力禁止歧視,並且禁止使用運算法來做預判式執法。而這兩組議員有一些共識:禁止辨識敏感特徵,如性別、性向與種族。

第六,不管議會審議後的最後版本為何,都將在歐洲議會上進行表決。目前安全意識最高的法國最支持使用AI作為執法工具,因此不禁止於執法場景運用AI肯定能拿到法國的票;而比較在乎隱私權的國家如德國則可能會對法案有所微詞,會有自己的版本,再送交議會談判。

值得注意的是,此草案從一開始就把最具爭議的人臉辨識,作為社會信用評分之用列為高風險的人工智慧應用,明確其將堅持「科技應用道德標準」,以確保基本人權受到保障。雖然立法過程可能會花上數年的時間,並提高AI應用落實的門檻,但一旦成文,將適用於所有在歐盟區域內販售的產品和服務,而違反其規定的,最高罰鍰可達違反者全球營收的6%。

  •     按讚加入DIGITIMES智慧應用粉絲團
更多關鍵字報導: 歐盟 AI