歐盟《人工智能法案》實行風險分級監管

在進行了為期三天的激烈談判后，歐洲議會、歐洲理事會和歐盟委員會三方于12月8日晚就《人工智能法案》達成協議，法案規定了對人工智能領域的全面監管。據路透社報道，這項法案最早將于明年初生效并于2026年實施。國際社會觀察認為，《人工智能法案》具有全面性和綜合性。未來，法案將對人工智能的研發、產品和服務的設計與運行帶來巨大影響。

基于風險制定監管制度

繼2022年歐盟推出旨在加強在線服務競爭的《數字市場法》以及刪除非法有害在線內容、保護用戶數據的《數字服務法》后，歐盟就《人工智能法案》達成協議。

《人工智能法案》主要內容包括規定了高影響通用人工智能模型和高風險人工智能系統的規則，在歐盟層面進行了治理體系的修訂，擴展了禁止清單，允許法律執法機關在公共場所有限制地使用遠程生物識別技術。此外，法案涉及諸多概念的定義和范圍、基本權利影響評估、高風險人工智能系統的分類、法律執法的例外情況、新的治理架構、罰款、透明度以及支持創新的措施。

法案的一個突出特點是注重基于風險來制定監管制度，以平衡人工智能的創新發展與安全規范。浙江大學光華法學院教授、浙江立法研究院院長鄭春燕在接受《法治日報》記者采訪時稱，歐盟的《人工智能法案》確立了“基于風險”的人工智能治理框架，將人工智能系統評估后劃分為最小風險、有限風險、高風險和不可接受風險四個等級，并對各個等級采取差異化的監管方式。

“這種‘基于風險’的治理框架與傳統法律中‘基于權利’的治理框架相區別，更符合人工智能時代的風險特點和監管要求。”鄭春燕解釋道，一方面，這種立法模式大多具有原則性的特點，原則性規定而非具體規則占據法律的主要內容，且大量關鍵性規范都比較寬泛。這既為人工智能技術的創新性發展預留了法律空間，又使得立法以一種包容性的姿態面向快速變遷的社會現實，避免法律的滯后性。另一方面，這種立法模式將法律所確立的寬泛規范理解為程序而非確定的規則，相關企業和個人通過“盡力合規”的方式執行法律規定，而監管機構則將相關法律義務的履行理解為持續的風險評價過程。這樣的好處在于可以采取一種相對靈活和合比例的方式執行立法所確立的原則，從而最大程度避免風險的產生和擴散。

立法進程總體進展迅速

當前，人工智能發展的速度遠遠超過技術監管、法律倫理、政策評估的腳步，需要一些更有遠見的框架來應對未知挑戰。在此背景下，歐盟一直在加快立法總體進程。

歐盟委員會于2021年4月21日提出《人工智能法案》提案的談判授權草案，將嚴格禁止“對人類安全造成不可接受風險的人工智能系統”，包括有目的地操縱技術、利用人性弱點或根據行為、社會地位和個人特征等進行評價的系統等。草案還要求人工智能公司對其算法保持人為控制，提供技術文件，并為“高風險”應用建立風險管理系統。每個歐盟成員國都將設立一個監督機構，確保這些規則得到遵守。

2022年12月6日，歐洲理事會一致通過《人工智能法案》草案，允許與歐洲議會進行談判。此后，歐洲議會和歐盟理事會就草案進行了多輪修訂和討論。歐洲議會議員們爭議的核心是監管是否會阻礙創新，即如何平衡數據隱私與避免扼殺人工智能的創新和投資。其中最具爭議的領域是決定哪些人工智能系統將被歸為“高風險”。

2023年2月24日，歐洲議會議員布蘭多·伯尼菲和德拉戈·圖多拉奇提出了一份妥協修正案，包含了歐洲議會議員經過馬拉松式談判后提出的反饋意見。例如，針對監管沙盒（經濟術語，指一個受監督的安全測試區）機制，反饋中要求建立沙盒機制的監管機構，指導和監督高風險人工智能系統的開發人員。3月14日，布蘭多·伯尼菲和德拉戈·圖多拉奇提出了一份關于通用目的人工智能草案，提議為這類人工智能系統的提供商設定相應義務，并為相關參與主體設定責任。此外，他們提議，ChatGPT等通用目的人工智能系統的整個生命周期都必須接受外部審計。

2023年6月14日，歐洲議會全體會議表決確認其認同立場。歐洲議會投票結束后，歐洲議會、歐洲理事會和歐盟委員會立即就法案舉行了第一次“三方會談”。隨后的7月18日、10月2日和24日，分別舉行了第二、三、四次“三方會談”，直至此次協議達成。

長遠發展仍需多方努力

《人工智能法案》為全球提供了全面、橫向和具有約束力的人工智能法規，法案的規定和方法很可能成為其他國家在制定人工智能法規時的參考藍本。盡管法案將對人工智能領域的治理帶來巨大影響，但這一領域的長遠發展仍需多方努力。

歐盟內部市場委員蒂埃里·布雷東表示：“《人工智能法案》不僅是一本規則手冊，而且將成為歐盟初創企業和研究人員有效治理全球人工智能的助推器。”

目前，已有多個國家正在準備完善監管手段。美國的立法者提出了兩項獨立的人工智能法案，其中一項要求美國政府在使用人工智能與人互動時保持透明，另一項法案則提出調研美國在最新技術方面是否仍具備競爭力。在企業層面，谷歌與環球音樂嘗試就人工智能“深度偽造”技術達成解決協議。作為人工智能大國，中國在全球人工智能治理上從未缺位。在11月1日英國布萊奇利園舉行的首屆人工智能安全峰會上，中國代表指出，發展人工智能，應當積極倡導以人為本，智能向善，加強技術風險管控，并在相互尊重、平等互利的原則基礎上，鼓勵各方協同共治，增強發展中國家在人工智能全球治理中的代表性和發言權，不斷彌合智能鴻溝和治理能力差距。

國際社會輿論稱，《人工智能法案》的實施將有助于塑造人工智能的未來發展方向，防范潛在的風險，并在全球范圍內促進對人工智能的可持續監管。但同時也應注意，強監管措施會對人工智能領域創新帶來負面效應。這份法案的長期效果仍有待觀察。（王衛）

來源： 法治日報