當(dāng)?shù)貢r(shí)間12月9日晚，歐洲議會(huì)、歐盟委員及各成員國三方就《人工智能法案》（ARTIFICIAL INTELLIGENCE ACT）達(dá)成協(xié)議，這意味著該法案已完成歐盟的立法程序，即將正式公布：自此該法案自此進(jìn)入技術(shù)性完善階段，即將發(fā)布正式方案版本。這意味的《人工智能法案》（ARTIFICIAL INTELLIGENCE ACT）很有可能成為全球第一部關(guān)于人工智能領(lǐng)域的全面監(jiān)管法規(guī)。
（一）《人工智能法案》的規(guī)劃歷史
據(jù)歐盟披露：《人工智能法案》目的是促進(jìn)以人為中心和值得信賴的人工智能的普及，并確保在歐盟對(duì)健康、安全、基本權(quán)利、民主和法治以及環(huán)境進(jìn)行高水平的保護(hù)，使其免受人工智能系統(tǒng)的有害影響。其《法案》的簡(jiǎn)要立法議程如下：
于2021年4月，歐盟就《人工智能法案》提交談判授權(quán)草案
2023年5月歐洲議會(huì)內(nèi)部的相關(guān)委員會(huì)通過了新一版《人工智能法案》，為后續(xù)全體會(huì)議審議通過立場(chǎng)和歐盟立法機(jī)關(guān)談判通過《人工智能法案》奠定了堅(jiān)實(shí)基礎(chǔ)
2023年6月14日，歐洲議會(huì)表決通過了《人工智能法案》折衷草案
2023年12月9日歐洲議會(huì)、歐盟委員及各成員國三方結(jié)束了《人工智能法案》的談判，初步達(dá)成一致。
（二）《人工智能法案》的主要內(nèi)容
如前文所說目前《人工智能法案》已進(jìn)去正式技術(shù)完善階段，我們尚未看到最終版本，基于《人工智能法案》提案及修正案可以了解到如法案的主要內(nèi)容：
1.《人工智能法案》的監(jiān)管范圍
《人工智能法案》主要監(jiān)管人工智能系統(tǒng)的提供者和部署者，兩個(gè)定義的范圍都非常廣泛，只要是提供人工智能服務(wù)的主體，無論是開發(fā)、發(fā)行，還是僅僅作為經(jīng)銷商或中間授權(quán)方，都屬于監(jiān)管的對(duì)象。
提供者和部署者的下列活動(dòng)均會(huì)受到《人工智能法案》監(jiān)管：（1）將人工智能系統(tǒng)投入歐盟市場(chǎng)或在歐盟內(nèi)投入使用的提供者，無論這些提供者是在歐盟域內(nèi)還是歐盟域外國家；（2）在歐盟域內(nèi)設(shè)立機(jī)構(gòu)或位于歐盟域內(nèi)的人工智能系統(tǒng)的部署者；（3）即使提供者或部署者的營業(yè)場(chǎng)所位于歐盟域外第三國，而該第三國因國際公法適用歐盟成員國法律，或者該系統(tǒng)輸出的內(nèi)容在歐盟域內(nèi)使用；（4）基于健康、安全或基本權(quán)利使用在歐盟投放市場(chǎng)的人工智能系統(tǒng)受到不利影響者。
從監(jiān)管范圍來看基本與歐盟GDPR中對(duì)受監(jiān)管的個(gè)人數(shù)據(jù)的寬泛定義保持一致。
2.《人工智能法案》基于風(fēng)險(xiǎn)的監(jiān)管
《人工智能法案》對(duì)不同應(yīng)用場(chǎng)景的AI系統(tǒng)實(shí)施風(fēng)險(xiǎn)定級(jí)，基于不同應(yīng)用場(chǎng)景的風(fēng)險(xiǎn)差異性，將AI系統(tǒng)分為“不可接受、高、有限、極小”四個(gè)風(fēng)險(xiǎn)等級(jí)，并針對(duì)不同級(jí)別風(fēng)險(xiǎn)實(shí)施不同程度的監(jiān)管規(guī)定，從而溝通起一套基于風(fēng)險(xiǎn)等級(jí)的監(jiān)管制度。
不可接受的風(fēng)險(xiǎn)的人工智能系統(tǒng)是禁止使用的，高風(fēng)險(xiǎn)人工智能系統(tǒng)為歐盟重點(diǎn)監(jiān)管對(duì)象，有限風(fēng)險(xiǎn)人工智能系統(tǒng)需遵循透明度要求，極小風(fēng)險(xiǎn)人工智能系統(tǒng)歐盟尚未發(fā)布實(shí)施干預(yù)政策。
如下是不同風(fēng)險(xiǎn)等級(jí)的人工智能系統(tǒng)說明：
不可接受的/被禁止的人工智能實(shí)踐，如：部署潛意識(shí)技術(shù)的人工智能系統(tǒng)，公共場(chǎng)所的“實(shí)時(shí)”遠(yuǎn)程生物識(shí)別系統(tǒng)，使用敏感特征的生物識(shí)別分類系統(tǒng)，用于預(yù)測(cè)刑事或行政違法行為的風(fēng)險(xiǎn)評(píng)估的，在執(zhí)法邊境管理、工作場(chǎng)所和教育機(jī)構(gòu)中的情緒識(shí)別系統(tǒng)，無針對(duì)性的抓取創(chuàng)建或擴(kuò)展面部識(shí)別數(shù)據(jù)庫。
高風(fēng)險(xiǎn)應(yīng)被重點(diǎn)監(jiān)管的人工智能系統(tǒng)：《人工智能法案》對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)劃分兩種類型：一是附錄II中根據(jù)某些歐盟法律作為安全組件或產(chǎn)品使用的AI系統(tǒng)；二是附錄III中在特定領(lǐng)域使用的某些類型的AI系統(tǒng)。其中，附錄III中列出了八個(gè)領(lǐng)域的高風(fēng)險(xiǎn)AI系統(tǒng)，具體為：1.自然人的生物特征識(shí)別和分類， 2. 關(guān)鍵基礎(chǔ)設(shè)施的管理和運(yùn)營， 3. 教育和職業(yè)培訓(xùn)，4. 就業(yè)、工人管理和獲得自營職業(yè) 5. 獲得和享受基本私人服務(wù)、公共服務(wù)和福利，6.執(zhí)法活動(dòng)，7. 移民、庇護(hù)和邊境管制管理：8. 司法和民主進(jìn)程。
有限風(fēng)險(xiǎn)人工智能系統(tǒng)：按照《人工智能法案》，有限風(fēng)險(xiǎn)的人工智能系統(tǒng)但應(yīng)遵循透明度原則，允許適當(dāng)?shù)目勺匪菪院涂山忉屝裕瑧?yīng)讓用戶知悉其與人工智能系統(tǒng)的交流或互動(dòng)。
3.《人工智能法案》和CE的關(guān)系
值得注意的是《人工智能法案》要求針對(duì)高風(fēng)險(xiǎn)的人工智能系統(tǒng)在投入市場(chǎng)前，應(yīng)貼有CE（Conformité Européenne）標(biāo)識(shí)?！斗ò浮凡粌H對(duì)AI系統(tǒng)的開發(fā)，部署和應(yīng)用相關(guān)方提出了“全生命周期”的合規(guī)要求，同時(shí)還針對(duì)人工智能產(chǎn)業(yè)鏈的不同參與者也提出了義務(wù)要求，這些參與者包括：產(chǎn)品制造商、授權(quán)代表、分銷商、進(jìn)口商、用戶或任何其他第三方。
《法案》提案中附錄II 中也羅列和《人工智能法案》的相關(guān)歐盟協(xié)調(diào)法規(guī)及指令。與此同時(shí)歐盟成立了CEN-CENELEC JTC 21 ‘Artificial Intelligence’ 負(fù)責(zé)制定和采用人工智能和相關(guān)數(shù)據(jù)的標(biāo)準(zhǔn)，并為其他與人工智能相關(guān)的技術(shù)委員會(huì)提供指導(dǎo)。
4.《人工智能法案》違反處罰規(guī)定
2021年《法案》提出將對(duì)創(chuàng)建或應(yīng)用AI系統(tǒng)過程中的違法企業(yè)處以高達(dá)約3000萬歐元的行政罰款，或全球年度總營業(yè)額的2%-6%。2023年《AI法案》折衷草案將最高罰款提高到4000萬歐元或前一財(cái)年全球年度營業(yè)額的7%。
（三）也許你會(huì)關(guān)心？
1.《人工智能法案》對(duì)生成式AI的監(jiān)管
2023年《人工智能法案》修正版增加了兩種人工智能系統(tǒng)的分類，分比為：通用型和基礎(chǔ)模型人工智能系統(tǒng)?！?/span>
通用型人工智能系統(tǒng)是指具有廣泛適用性的人工智能系統(tǒng)，包括但不限于圖像和語音識(shí)別、音頻和視頻生成、翻譯和其他功能?；A(chǔ)模型是指經(jīng)過大量的數(shù)據(jù)訓(xùn)練，具有很強(qiáng)的可適應(yīng)性的人工智能系統(tǒng)模型，典型代表如Chat-GPT模型等。歐盟對(duì)基礎(chǔ)模型的提供者要求必須滿足基本的透明度：應(yīng)在歐盟數(shù)據(jù)庫中進(jìn)行注冊(cè)，制定詳細(xì)的技術(shù)文件和易懂的使用說明，建立質(zhì)量管理體系等。
2.《人工智能法案》的生效日期
如前文所說《人工智能法案》目前完成了歐盟內(nèi)部的立法流程，正式生效日期需等歐盟的進(jìn)一步通知。
3.世界其他國家或地區(qū)對(duì)人工智能的監(jiān)管
美國：2022年10月4日提出的《人工智能權(quán)利法案藍(lán)圖》。該藍(lán)圖為人工智能系統(tǒng)設(shè)立了五項(xiàng)基本原則，分別為安全有效的系統(tǒng)、避免算法歧視、數(shù)據(jù)隱私、通知和解釋清晰、設(shè)計(jì)人工替代方案與退出機(jī)制。2023年1月，美國國家標(biāo)準(zhǔn)與技術(shù)研究院發(fā)布《人工智能風(fēng)險(xiǎn)管理框架1.0》采用多元化的治理方案，旨在幫助相關(guān)主體部署人工智能系統(tǒng)，減少對(duì)人工智能技術(shù)的偏見，增強(qiáng)其可信度并保護(hù)個(gè)人數(shù)據(jù)隱私。
英國：2022年7月頒布的《人工智能監(jiān)管政策》（以下簡(jiǎn)稱《政策》），以創(chuàng)建新型人工智能監(jiān)管機(jī)制為目標(biāo)。于2023年3月，英國發(fā)布政策報(bào)告《促進(jìn)創(chuàng)新的人工智能監(jiān)管方法》，以提供具有創(chuàng)新性、可信賴性的人工智能監(jiān)管框架為目的。以一下基本原則為基礎(chǔ)監(jiān)管基礎(chǔ)：安全性、可靠性和穩(wěn)健性、透明度和可解釋性、公平性、問責(zé)制和治理以及可爭(zhēng)議性和補(bǔ)救措施。
我國也不斷建立自己的人工智能治理監(jiān)管體系：國家網(wǎng)信辦于2023年4月發(fā)布的《生成式人工智能服務(wù)管理辦法（征求意見稿）》以及2023年7月13日發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》均是對(duì)人工智能領(lǐng)域的監(jiān)管。
京公網(wǎng)安備11010802046783號(hào)
