您當前的位置:檢測資訊 > 法規(guī)標準
嘉峪檢測網(wǎng) 2024-12-23 09:09
歐盟人工智能法案是一項具有里程碑意義的法規(guī),代表著人工智能技術(shù)的法律治理邁出了重要一步。該法案由歐盟委員會于2021年4月提出,并于2023年12月獲得歐洲議會和歐洲理事會的同意,于2024年3月13日獲得批準,并于2024年8月1日生效。
盡管被貼上“法案”的標簽,但事實上,它是一項歐盟法規(guī)(法規(guī)EU 2024/1689)。該法案旨在解決公民健康、安全和基本權(quán)利的潛在風險,促進歐盟負責任的人工智能開發(fā)和部署。它為開發(fā)者和部署者提供了關(guān)于AI特定用途的明確要求和義務,同時減輕了企業(yè)的管理和財務負擔。
AI法案在所有歐盟國家引入了一個統(tǒng)一的框架,基于AI的前瞻性定義和基于風險的方法:
最小風險 Minimal risk:
大多數(shù)人工智能系統(tǒng),如垃圾郵件過濾器和人工智能視頻游戲,在人工智能法案下都沒有義務,但公司可以自愿采用額外的行為準則。
特定的透明度風險Specific transparency risk :
聊天機器人等系統(tǒng)必須明確告知用戶,他們正在與一臺機器互動,而某些人工智能生成的內(nèi)容必須貼上標簽。
高風險 High risk:
基于人工智能的醫(yī)療軟件或用于招聘的人工智能系統(tǒng)等高風險人工智能系統(tǒng)必須符合嚴格的要求,包括風險緩解系統(tǒng)、高質(zhì)量的數(shù)據(jù)集、清晰的用戶信息、人工監(jiān)督等。
不可接受的風險 Unacceptable risk:
例如,允許政府或公司進行“社會評分”的AI系統(tǒng)被認為是對人的基本權(quán)利的明顯威脅,因此被禁止。
分階段實施時間表:
• 2025年2月2日:一般規(guī)定和禁令規(guī)定開始適用。
• 2025年8月2日:關(guān)于政府當局架構(gòu)和公告機構(gòu)規(guī)定、通用AI模型提供者的規(guī)定、相關(guān)責罰開始適用。
• 2026年8月2日:大部分條款開始普遍適用,包括對高風險AI系統(tǒng)的一些義務,但一些義務將從2027年8月2日起適用。
• 2027年8月2日:高風險AI系統(tǒng)的一些義務開始適用,特別是那些受其他歐盟立法監(jiān)管的產(chǎn)品的安全組件。
對于數(shù)字醫(yī)療產(chǎn)品,重點主要是高風險人工智能系統(tǒng),包括受歐盟MDR/IVDR管制的醫(yī)療設備中使用的系統(tǒng)。
對高風險人工智能系統(tǒng)的要求:
這些包括嚴格的合規(guī)義務,如風險管理、數(shù)據(jù)治理、透明度和人工監(jiān)督。屬于高風險人工智能系統(tǒng)的數(shù)字醫(yī)療產(chǎn)品必須遵守這些要求。
適用性和地域范圍:
《人工智能法》適用于將人工智能系統(tǒng)投放到歐盟市場的提供商、歐盟內(nèi)部的用戶以及外部提供商/用戶(如果他們的人工智能系統(tǒng)產(chǎn)品在歐盟使用)。這種域外延伸類似于GDPR。
事件報告和上市后監(jiān)控:
高風險人工智能系統(tǒng)(包括醫(yī)療產(chǎn)品中使用的系統(tǒng))的開發(fā)商必須建立嚴重事件報告系統(tǒng),并進行持續(xù)的上市后監(jiān)控。
高風險人工智能系統(tǒng)的技術(shù)文檔:
要求提供的技術(shù)文檔非常全面,比美國FDA批準AI/ML醫(yī)療器械所需的文件要多得多,尤其是那些通過510(k)或Novo pathways批準的中度風險醫(yī)療器械。
技術(shù)文檔包括人工智能系統(tǒng)元素的詳細描述及其開發(fā)過程,包括:
*設計規(guī)范;
*系統(tǒng)架構(gòu);
*關(guān)鍵設計選擇及其基本原理和假設;
*數(shù)據(jù)要求;
*培訓方法;
*用于開發(fā)、訓練和驗證人工智能系統(tǒng)的計算資源;
*驗證和測試程序;和
*性能指標。
因此,包含人工智能系統(tǒng)的受監(jiān)管數(shù)字醫(yī)療產(chǎn)品除了提供歐盟MDR/IVD技術(shù)文檔外,還需要提供人工智能系統(tǒng)所需的附錄IV技術(shù)文檔。
因此,我們預計醫(yī)療器械制造商將依據(jù)第11(2)條,利用其受管制產(chǎn)品的歐盟MDR/IVDR技術(shù)文件系統(tǒng),并通過附加附錄IV信息來擴展AI系統(tǒng)或子系統(tǒng)的文件。一個擔憂是,人工智能系統(tǒng)的高門檻文件要求可能對新進入者不利?!稓W盟人工智能法案》試圖通過讓中小企業(yè)(包括初創(chuàng)企業(yè))提供簡化的技術(shù)文件來解決這一問題,該技術(shù)文件仍有待歐盟委員會制定,旨在滿足小型和微型企業(yè)的需求。

來源:醫(yī)療器械法規(guī)資訊