歐盟擬通過全球首部人工智能法規

2023年5月11日，歐盟內部市場委員會（Internal Market Committee）和公民自由委員會（Civil Liberties Committee）以84票贊成、7票反對和12票棄權，通過了有史以來首個人工智能規則的談判授權草案。在他們對委員會提案的修正案中，歐洲議會議員旨在確保人工智能系統受到監督，保證其安全透明、可追溯、非歧視和環境友好。他們還希望為人工智能設計一個統一的定義，使其技術中立，從而可以應用于目前和未來的人工智能系統。

基于風險的人工智能方法

這些規則遵循基于風險的方法，并根據人工智能可能產生的風險水平，為提供商和用戶明確義務。對人的安全具有不可接受的風險水平的人工智能系統將被嚴格禁止，包括部署潛意識或故意操縱技術、利用人的脆弱性或用于社會評分（根據社會行為、社會經濟地位、個人特征對人進行分類）的系統。

歐洲議會議員對該清單進行了實質性修改，包括禁止侵入性和歧視性使用人工智能系統，例如:

公共場所的“實時”遠程生物識別系統；“后”遠程生物特征識別系統，唯一的例外是用于起訴嚴重犯罪的執法，并且必須經過司法授權；使用敏感特征（如性別、種族、民族、公民身份、宗教）的生物識別分類系統；（基于特征分析、位置或過去的犯罪行為的）預測性警務系統；執法、邊境管理、工作場所和教育機構中的情感識別系統；和不分青紅皂白地從社交媒體或閉路電視鏡頭中抓取生物特征數據，以創建面部識別數據庫（侵犯人權和隱私權）。高風險人工智能

歐洲議會議員擴大了高風險區域的分類，包括對人民健康、安全、基本權利或環境的損害。他們還將影響政治活動選民和社交媒體平臺（數字服務法案下有超過4500萬用戶）推薦系統的人工智能系統添加到高風險列表中。

通用人工智能

歐洲議會議員還指出，基礎模型提供者必須保證對基本權利、健康和安全以及環境、民主和法治的有力保護。他們需要評估和減輕風險，遵守設計、信息和環境要求，并在歐盟數據庫中注冊。

像GPT這樣的生成式基礎模型，必須遵守額外的透明度要求，比如披露內容是由人工智能生成的，設計模型以防止其生成非法內容，以及發布用于訓練的版權數據的摘要。

支持創新和保護公民權利

為了促進人工智能創新，歐洲議會增加了對研究活動和在開源許可證下提供的人工智能組件的豁免。新法律促進了監管沙箱或受控環境的發展，這些沙箱或受控環境是由公共當局建立的，用于在人工智能部署之前對其進行測試。

歐洲議會議員希望提高公民對人工智能系統提出投訴的權利，并獲得對基于高風險人工智能系統的決定的解釋，這些決定會嚴重影響他們的權利。歐洲議會議員還改革了歐盟人工智能辦公室的角色，該辦公室將負責監督人工智能規則手冊的實施情況。

后續步驟

在與議會就該法律的最終形式開始談判之前，這一談判授權草案需要得到整個議會的認可，預計將在6月12日至15日的會議期間進行表決。

本文系未央網專欄作者:高旭 發表，內容屬作者個人觀點，不代表網站觀點，未經許可嚴禁轉載，違者必究！