在資料保護和人工智慧技術監管方面，歐盟一直走在立法實踐的最前端。當地時間 4 月 21 日，歐盟委員會公佈了名為 “Laying Down Harmonised Rules on Artificial Intelligence （Artificial Intelligence Act） And Amending Certain Union Legislative Acts” 的草案，對人工智慧技術應用進行了風險評定。
根據這份草案，
歐盟將全面禁止大規模監控和利用人工智慧技術的社會信用體系，同時對特定領域的 “高風險” 應用進行嚴格限制。
2020 年 2 月 19 日，歐盟委員會曾釋出了名為 “White Paper on Artificial Intelligence - A European approach to excellence and trust” 的白皮書，就如何促進人工智慧發展及解決相關風險進行了討論。而 21 日釋出的這項草案正是白皮書的法律延伸，目的在於為實現可信賴的人工智慧生態系統提供牢固的法律框架。
一旦得到透過，這項法案將在很大程度上對其他地區的人工智慧治理帶來影響，就如 2018 年 5 月 25 日生效的《歐盟一般資料保護條例》（GDPR）一樣。
歐盟競爭事務負責人 Margrethe Vestager 在公佈草案時表示：“透過標誌性法規，歐盟正在確立全球規範，以確保人工智慧是一項值得信賴的技術。透過制定標準，我們可以為符合倫理的人工智慧技術鋪平道路，並確保歐盟在此過程中保持競爭力。”
Politico 專門負責 AI 報道的 Melissa Heikkilä 則認為，
這個草案有著一定的先發優勢，它將在很大程度上影響由歐洲理事會、經合組織、北約、聯合國教科文組織和七國集團主導的全球人工智慧夥伴關係 (Global Partnership on Artificial Intelligence) 的探討
。
被全面禁止的人工智慧應用
在草案中，歐盟委員會首先討論了什麼是人工智慧這個問題。
由於技術錯綜複雜，行業內部一直沒有就這個問題給出確定的統一答案。歐盟委員會認為，人工智慧是一大類迅速發展技術的統稱。對於一組人類指定目標，這項技術可以在物理或數字維度給出包括內容、預測、建議或決策的輸出，從而對其互動的環境產生影響。人工智慧系統或自己為終端產品（非嵌入式），或為產品的一個組成部分（嵌入式）。
為了提供必要的法律確定性，歐盟委員會在草案中用附件的形式詳細列舉出了屬於人工智慧範圍內的技術清單。不僅如此，該清單還會不斷更新，從而和最前沿的人工智慧技術保持同步性。換言之，
人工智慧的定義在這項草案裡具有靈活性和時效性
，巧妙化解了法律滯後性和技術飛速發展之間的矛盾，為之後行業的合規帶來了便利。
草案將人工智慧應用分為了完全不可接受風險、高風險和低風險等不同等級，其中有三種應用被完全禁止。
第一種是在不知不覺中對人類意識進行操控，從而影響其決定或扭曲其行為，進而對人類造成身體或心理的傷害。
有觀察家認為，這項條例可以讓人聯想到 Facebook、Twitter、谷歌和亞馬遜的大部分商業模式，及虛假資訊和極端主義等推薦演算法。雖然沒有明確指出條例所針對的物件，但歐盟委員會是世界上首個以法律語言禁止人工智慧系統 “操控” 人類思想的機構。
第二種情況是利用兒童或殘疾人的脆弱性對其造成傷害
，這顯示了歐盟一貫的對弱勢群體的重視和保護。
第三項則是基於人工智慧系統上的社會信用體系。
歐盟委員會認為，公共當局根據自然人的社會行為或人格特徵對其進行信用評估會造成不可預見的後果，個人或特定群體的權益將受到損害。不同的社會語境會產生不同的演算法偏見，而演算法偏見將直接對信用評估產生影響。這樣的社會信用體系侵蝕社會公平公正的原則，因此需要被禁止。
對於很多人關注的面部識別技術，歐盟委員會在這份草案中留出了餘地。
作為 “實時遠端生物識別技術” 的一種，面部識別在很大程度上侵犯了人們的隱私。因此，無差別的大規模監控會被歐盟全面禁止，只有在三種特定情況下除外：尋找失蹤兒童；解除恐怖襲擊的威脅；以及在法律允許範圍內追查特定的刑事犯罪嫌疑人。
“實時遠端生物識別技術” 是這次歐盟委員會著重強調進行限制的人工智慧技術，它特指在沒有顯著延遲的情況下對個體生物資料的捕獲、比較和識別。這項技術的特點是將人的生物資料與資料庫進行比較，並且事先並不確定目標人物是否會出現。值得注意的是，在歐盟議會內部有強烈的全面禁止這項技術的聲音。上週，40 名歐盟議會議員曾聯名上書，批評該草案對 “實時遠端生物識別” 技術網開一面。
高風險應用場景
除了以上被全面禁止的情況外，歐盟委員會還詳細列舉了人工智慧的 “高風險” 應用。草案稱，高風險的人工智慧系統只有在符合歐盟強制性要求的情況下才能投入市場使用，否則公共利益會受到不可接受的風險。換言之，
未來不符合准入標準的人工智慧系統將被無情地擋在歐盟市場之外。
首先是執法系統和法院對人工智慧的使用。
草案稱，執法當局使用人工智慧系統會導致權力嚴重失衡，侵犯個人基本權益。如果訓練這些演算法的資料質量不高，或演算法的準確性及魯棒性沒有達到要求，那麼程式性正義，公平審判權，辯護權和無罪推定的權利就會受到衝擊。歐盟委員會尤其將個人風險評估、測謊儀、辨別情緒等應用歸為高風險。在刑事訴訟中，基於人工智慧技術對證據進行可靠性評估，對嫌疑人的性格特徵進行判斷，或基於過去的犯罪行為進行推定等行為同樣被歸為高風險範圍。
其他的高風險應用場景主要集中在社會保障、就業和教育等與生活息息相關的方面。
在就業方面，歐盟委員會考慮到了人工智慧在招聘、升職、解僱及合同關係中可能扮演的重要角色。草案認為，利用演算法對工作人員進行評估或監測無疑屬於高風險，因為它們對員工的職業前景和基本生計有著難以把控的影響。同時因為演算法偏見，人工智慧對婦女、殘疾人或年齡的歧視也將繼續，人們的隱私權將不可避免地受到威脅。
在教育方面，歐盟委員會認為利用演算法進行招生錄取及考試評定必須被視為高風險，因為這很可能會影響他們這一生受教育的機會，還將產生社會固化的問題。在社會保障系統方面，歐盟委員會認為人工智慧參與決策過程將對民生產生重大影響。例如，利用人工智慧決定人們是否能獲得銀行貸款、財政補助、保障性住房、電力電信等基本服務。由於種族、殘疾、年齡、性取向等各種因素，演算法很可能會延續目前社會已經存在的廣泛歧視，從而使弱勢群體處於更加不利的地位。
草案中對於高風險人工智慧的合規要求招來了一些歐盟組織的反對。雖然歐盟將透過質量管理和評估程式嚴格管控，但一些人工智慧技術供應商將被允許進行自我合規測評。數字權利組織 EDRi 的高階政策顧問 Sarah Chander 對 Politico 表示：“歐盟委員會將合規交給了人工智慧供應商，這可能會損害（人們的）基本權利，甚至可能讓公共當局逍遙法外。”
對此某些科技行業的遊說人士則感到寬慰，他們對高風險應用的合規要求表示稱讚。計算機與通訊行業協會（Computer & Communications Industry Association）的 Christian Borggreen 對法新社指出，歐盟委員會採用了基於風險的評估方法，這很好。該協會代表了包括亞馬遜、Facebook 和谷歌在內的多家科技巨頭。
違反此法案的公司可能被處於 2000 萬歐元或公司收入 4% 的罰款，與此前的反壟斷法規定類似。
隨著草案的出臺，關於資料主體基本權利與技術創新間關係的新一輪爭論也將隨之拉開序幕。要想獲得透過，這項法案必須得到代表歐盟 27 國政府的歐洲理事會和直接選舉產生的歐洲議會的批准，整個過程可能需要數年時間。去年年底，以丹麥為首的 14 個國家發表了一份不具約束力的檔案，呼籲建立一個更 “靈活” 的法律框架。但對於德國這樣更注重隱私的國家來說，這項草案的規定明顯還不夠深入。
人工智慧技術的日新月異與歐盟繁瑣複雜的立法機制形成了鮮明的對比。但無論如何，人類已經就人工智慧的系統性風險已經展開了實質性的立法規劃。從這個意義上來看，歐盟再次在法治戰略上搶得先機。
參考文獻
https：//digital-strategy。ec。europa。eu/en/library/proposal-regulation-european-approach-artificial-intelligence
https：//www。gpai。ai/
https：//www。politico。eu/newsletter/ai-decoded/politico-ai-decoded-key-battles-for-the-eus-ai-law-ai-governance-twitters-algorithm/
https：//news。yahoo。com/eu-unveils-ai-rules-temper-041250924。html
https：//www。nytimes。com/2021/04/16/business/artificial-intelligence-regulation。html
作者：劉芳
編審：王新凱
排版：王落塵
本文經授權轉載自
學術頭條
（ID：
SciTouTiao
），原標題為《歐盟最新AI監管草案：全面禁止大規模監控及基於AI的社會信用體系》。如需二次轉載請聯絡原作者