2019年起，我國先后發(fā)布多項(xiàng)人工智能醫(yī)療器械指導(dǎo)原則和審評(píng)要點(diǎn)，積極推進(jìn)人工智能醫(yī)療器械的科學(xué)監(jiān)管。全球主要醫(yī)療器械監(jiān)管機(jī)構(gòu)近年來尤其是2022年發(fā)布了多份指南，基于各自國情和法規(guī)明確人工智能醫(yī)療器械監(jiān)管要求。此外，醫(yī)療器械監(jiān)管機(jī)構(gòu)相關(guān)國際協(xié)調(diào)組織亦發(fā)布人工智能醫(yī)療器械相關(guān)文件，給出了相應(yīng)的監(jiān)管建議。
表1 人工智能醫(yī)療器械監(jiān)管關(guān)注重點(diǎn)
人工智能醫(yī)療器械屬于醫(yī)療器械軟件的子集，故各監(jiān)管機(jī)構(gòu)均在醫(yī)療器械軟件的監(jiān)管框架下研究人工智能醫(yī)療器械的監(jiān)管要求，即在質(zhì)量管理體系的要求下采用基于風(fēng)險(xiǎn)的全生命周期管理的方法進(jìn)行監(jiān)管，包括網(wǎng)絡(luò)安全與信息安全、云計(jì)算、移動(dòng)計(jì)算等方面。有些監(jiān)管機(jī)構(gòu)未單獨(dú)發(fā)布人工智能醫(yī)療器械文件，但并不意味著沒有監(jiān)管要求，而是從醫(yī)療器械軟件角度考慮相應(yīng)監(jiān)管要求。以深度學(xué)習(xí)為代表的數(shù)據(jù)驅(qū)動(dòng)類人工智能技術(shù)是當(dāng)前人工智能醫(yī)療器械產(chǎn)品所用的主流技術(shù)，故各監(jiān)管機(jī)構(gòu)主要考慮此類技術(shù)帶來的監(jiān)管挑戰(zhàn)。
1、上市前評(píng)價(jià)
上市前評(píng)價(jià)主要關(guān)注數(shù)據(jù)質(zhì)控、算法評(píng)估等監(jiān)管要求，以解決數(shù)據(jù)驅(qū)動(dòng)所產(chǎn)生的問題。數(shù)據(jù)是人工智能技術(shù)的基礎(chǔ)，數(shù)據(jù)量的充分性、數(shù)據(jù)質(zhì)量的優(yōu)劣性、數(shù)據(jù)分布的合理性、數(shù)據(jù)來源的多樣性、數(shù)據(jù)標(biāo)注的規(guī)范性、訓(xùn)練集與測(cè)試集的互斥性是數(shù)據(jù)質(zhì)控的關(guān)注重點(diǎn)。算法是人工智能技術(shù)的核心，算法選擇、算法性能指標(biāo)、算法訓(xùn)練與調(diào)優(yōu)、算法驗(yàn)證與確認(rèn)是算法評(píng)估的關(guān)注重點(diǎn)。其中，算法驗(yàn)證與確認(rèn)主要包括算法性能評(píng)估、臨床評(píng)價(jià)，前者可采用性能測(cè)試、壓力測(cè)試、對(duì)比測(cè)試等方式，后者可采用臨床試驗(yàn)（含回顧性研究）、同品種比對(duì)等方式；根據(jù)產(chǎn)品預(yù)期用途和風(fēng)險(xiǎn)水平確定驗(yàn)證與確認(rèn)方式，并可基于第三方數(shù)據(jù)庫進(jìn)行驗(yàn)證與確認(rèn)。
各監(jiān)管機(jī)構(gòu)在此方面的監(jiān)管要求基本相同，細(xì)節(jié)存在差異。美國、中國的監(jiān)管要求較為全面細(xì)致，其中美國要求臨床試驗(yàn)采用多閱片者多病例（MRMC）設(shè)計(jì)，較為嚴(yán)格；中國明確第三方測(cè)評(píng)數(shù)據(jù)庫可用于算法確認(rèn)，并提出其專用條件以供建庫方參考。
2、變更控制
變更控制主要關(guān)注變更注冊(cè)觸發(fā)條件，以解決快速迭代所產(chǎn)生的問題。若軟件每次更新均需進(jìn)行變更注冊(cè)，不僅會(huì)大幅增加企業(yè)注冊(cè)成本，而且會(huì)占用大量監(jiān)管資源，因此需要明確變更注冊(cè)觸發(fā)條件。原則上，重大更新需變更注冊(cè)，輕微更新通過質(zhì)量管理體系控制者無需變更注冊(cè)，主要有兩種方法：一是根據(jù)軟件更新類型區(qū)分要求，若影響產(chǎn)品預(yù)期用途、基本性能指標(biāo)、輸入輸出類型等則需變更注冊(cè)，單純有限度增加訓(xùn)練數(shù)據(jù)無需變更注冊(cè)，這屬于傳統(tǒng)方法；二是采用“預(yù)定規(guī)格”進(jìn)行控制，軟件更新若超出“預(yù)定規(guī)格”范圍則需變更注冊(cè)，反之無需變更注冊(cè)，屬于新方法。
多數(shù)監(jiān)管機(jī)構(gòu)同時(shí)采用上述兩種方法，細(xì)節(jié)存在差異。比如，在“預(yù)定規(guī)格”方面，美國擬實(shí)施預(yù)定變更控制計(jì)劃，包括變更說明、變更方案、影響評(píng)估等，監(jiān)管要求最為細(xì)致；中國結(jié)合軟件版本命名規(guī)則明確“預(yù)定規(guī)格”，新加坡從3個(gè)方面細(xì)化“預(yù)定規(guī)格”，監(jiān)管要求較為細(xì)致；日本、韓國僅做原則性要求。
3、信息透明
信息透明主要關(guān)注說明書信息披露、用戶培訓(xùn)和算法穩(wěn)定性分析，以增強(qiáng)黑盒算法可解釋性?？山忉屝詫?duì)于醫(yī)療決策至關(guān)重要，需要“知其然知其所以然”。美國和中國在此方面監(jiān)管要求較為具體。
美國要求CAD類產(chǎn)品的說明書需披露算法性能評(píng)估信息、臨床評(píng)價(jià)信息，提供用戶培訓(xùn)方案，開展算法穩(wěn)定性分析；中國要求輔助決策類產(chǎn)品的說明書需披露算法性能評(píng)估信息、臨床評(píng)價(jià)信息，基于數(shù)據(jù)的算法還需披露算法訓(xùn)練信息，根據(jù)產(chǎn)品風(fēng)險(xiǎn)水平和用戶專業(yè)程度提供用戶培訓(xùn)方案，從輸入輸出角度開展算法穩(wěn)定性分析。
4、生存周期質(zhì)控
生存周期質(zhì)控與良好機(jī)器學(xué)習(xí)實(shí)踐本質(zhì)相同。各監(jiān)管機(jī)構(gòu)和國際協(xié)調(diào)組織均在質(zhì)量管理體系框架下，結(jié)合業(yè)界實(shí)踐，明確人工智能醫(yī)療器械生存周期質(zhì)控要求或提供相應(yīng)建議。
美國聯(lián)合加拿大、英國發(fā)布算法開發(fā)十原則提供生存周期質(zhì)控建議，后續(xù)擬制定良好機(jī)器學(xué)習(xí)實(shí)踐相關(guān)文件；中國明確生產(chǎn)周期質(zhì)控具體要求，涵蓋需求分析、數(shù)據(jù)收集、算法設(shè)計(jì)、驗(yàn)證與確認(rèn)、更新控制；新加坡從開發(fā)者、使用者角度提供生存周期質(zhì)控建議，包括設(shè)計(jì)、實(shí)現(xiàn)、測(cè)試、使用、監(jiān)測(cè)、評(píng)估；AI4H從通用要求、上市前要求、上市后要求3方面提供生存周期質(zhì)控建議。
5、真實(shí)世界監(jiān)測(cè)
人工智能醫(yī)療器械上市后部署在真實(shí)世界，需要持續(xù)監(jiān)測(cè)產(chǎn)品性能，深入評(píng)估算法泛化能力。若有不良事件需要及時(shí)報(bào)告，必要時(shí)采取干預(yù)措施，特別是持續(xù)學(xué)習(xí)。
在真實(shí)世界性能數(shù)據(jù)評(píng)價(jià)方面，各監(jiān)管機(jī)構(gòu)均處于發(fā)展初期階段，監(jiān)管要求大體相當(dāng)，主要探索利用真實(shí)世界數(shù)據(jù)來評(píng)價(jià)算法更新等問題，需要考慮數(shù)據(jù)生成過程、評(píng)估指標(biāo)確定等要求。
6、新技術(shù)評(píng)價(jià)
人工智能新技術(shù)評(píng)價(jià)不僅要考慮當(dāng)前人工智能醫(yī)療器械所用新技術(shù)的評(píng)價(jià)問題，如合成數(shù)據(jù)、圖像重建和降噪等，而且要根據(jù)人工智能新技術(shù)在醫(yī)療器械的應(yīng)用趨勢(shì)，結(jié)合其技術(shù)特征考慮評(píng)價(jià)問題，做好技術(shù)儲(chǔ)備，如小樣本、弱標(biāo)注、非結(jié)構(gòu)化數(shù)據(jù)等。美國從近期和遠(yuǎn)期兩個(gè)維度關(guān)注新技術(shù)發(fā)展方向，如持續(xù)學(xué)習(xí)、合成數(shù)據(jù)、圖像重建與降噪等，但尚未明確要求；中國對(duì)集成學(xué)習(xí)、遷移學(xué)習(xí)、強(qiáng)化學(xué)習(xí)、聯(lián)邦學(xué)習(xí)、生成對(duì)抗網(wǎng)絡(luò)（合成數(shù)據(jù)）等新技術(shù)進(jìn)行原則性要求，對(duì)持續(xù)學(xué)習(xí)有明確要求；新加坡重點(diǎn)關(guān)注持續(xù)學(xué)習(xí)、合成數(shù)據(jù)，并明確相應(yīng)要求。
持續(xù)學(xué)習(xí)是當(dāng)前人工智能新技術(shù)評(píng)價(jià)的焦點(diǎn)，從責(zé)任方角度可分為制造商控制型和用戶參與型。制造商控制型算法更新完全由制造商控制，從更新頻率上可分為階段更新（算法鎖定）、持續(xù)更新，無論何種更新均需制造商再確認(rèn)，故算法更新通常會(huì)提升算法性能指標(biāo)，責(zé)任明確，風(fēng)險(xiǎn)可控。用戶參與型算法更新由制造商和用戶（如醫(yī)療機(jī)構(gòu)、患者等）共同控制，存在以下問題：一是用戶參與算法開發(fā)，需要承擔(dān)制造商的法律責(zé)任，制造商和用戶的法律責(zé)任不明確；二是算法更新結(jié)果存在不確定性，可能會(huì)降低算法性能指標(biāo)，產(chǎn)生相應(yīng)風(fēng)險(xiǎn)；三是算法更新存在定制化問題，比如同一算法部署在不同醫(yī)療機(jī)構(gòu)，由于醫(yī)療機(jī)構(gòu)的數(shù)據(jù)不同，經(jīng)過相同時(shí)長的訓(xùn)練，不同醫(yī)療機(jī)構(gòu)的算法更新結(jié)果亦不同，無法保證產(chǎn)品質(zhì)量一致性。因此，各監(jiān)管機(jī)構(gòu)當(dāng)前主要是明確制造商控制型持續(xù)學(xué)習(xí)的監(jiān)管要求，用戶參與型持續(xù)學(xué)習(xí)的監(jiān)管要求尚在探索，比如，中國明確用戶參與型持續(xù)學(xué)習(xí)可用于算法訓(xùn)練，但不得用于醫(yī)療實(shí)踐；日本草擬了若干提議但尚未實(shí)施：醫(yī)療機(jī)構(gòu)實(shí)施與制造商相同的質(zhì)量管理體系，提供用戶培訓(xùn)課程，為算法性能下降提供額外風(fēng)險(xiǎn)控制措施等。
7、重點(diǎn)產(chǎn)品評(píng)價(jià)
人工智能醫(yī)療器械產(chǎn)品種類繁多，不同種類產(chǎn)品特性亦不同，因此需要結(jié)合產(chǎn)品特點(diǎn)細(xì)化監(jiān)管要求，尤其是重點(diǎn)產(chǎn)品。目前，全球只有中國發(fā)布了產(chǎn)品類規(guī)范性文件，包括肺炎CT圖像軟件、肺結(jié)節(jié)CT圖像軟件、糖尿病視網(wǎng)膜病變眼底圖像軟件3個(gè)重點(diǎn)產(chǎn)品。
8、我國監(jiān)管現(xiàn)狀與發(fā)展方向
我國對(duì)于人工智能醫(yī)療器械監(jiān)管的框架、原則和要求，在上市前評(píng)價(jià)、變更控制、信息透明、生存周期質(zhì)控、真實(shí)世界監(jiān)測(cè)、新技術(shù)評(píng)價(jià)等方面與國際監(jiān)管先進(jìn)水平基本相當(dāng)，在重點(diǎn)產(chǎn)品評(píng)價(jià)方面處于領(lǐng)先水平。
隨著人工智能醫(yī)療器械新技術(shù)新產(chǎn)品的不斷涌現(xiàn)，我國需要在現(xiàn)有工作基礎(chǔ)上進(jìn)一步加強(qiáng)人工智能醫(yī)療器械監(jiān)管科學(xué)研究。一是持續(xù)開展人工智能新技術(shù)評(píng)價(jià)研究，結(jié)合技術(shù)特征明確監(jiān)管要求；二是充分利用真實(shí)世界性能數(shù)據(jù)研究算法評(píng)估問題，特別是對(duì)算法泛化能力；三是深入研究用戶參與型持續(xù)學(xué)習(xí)的監(jiān)管問題，從法規(guī)、倫理、技術(shù)等角度明確責(zé)任分配原則和相應(yīng)監(jiān)管要求；四是結(jié)合技術(shù)發(fā)展趨勢(shì)，深入研究算法可解釋性問題。
結(jié)合監(jiān)管科學(xué)研究成果，我國需要進(jìn)一步推進(jìn)人工智能醫(yī)療器械監(jiān)管工作，以滿足產(chǎn)業(yè)發(fā)展需要，實(shí)現(xiàn)社會(huì)共治。一是切實(shí)完善法規(guī)制訂修訂工作，如引入年度報(bào)告制度完善變更控制要求等；二是加速推進(jìn)人工智能醫(yī)療器械指導(dǎo)原則體系構(gòu)建工作，從技術(shù)、產(chǎn)品兩個(gè)維度持續(xù)開展指導(dǎo)原則和審評(píng)要點(diǎn)制訂修訂工作；三是基于人工智能醫(yī)療器械創(chuàng)新合作平臺(tái)（www.aimd.org.cn），充分協(xié)調(diào)監(jiān)管科學(xué)研究基地、重點(diǎn)實(shí)驗(yàn)室等外部資源，進(jìn)一步提高監(jiān)管能力和水平；四是積極參與人工智能醫(yī)療器械國際監(jiān)管協(xié)調(diào)工作，包括但不限于IMDRF、GHWP、AI4H等國際協(xié)調(diào)組織，努力提升國際影響力和話語權(quán)。
來源：彭亮,劉梟寅,張宇晶等.人工智能醫(yī)療器械國際監(jiān)管比較研究[J].中國數(shù)字醫(yī)學(xué),2023,18(05):1-7.
京公網(wǎng)安備11010802046783號(hào)
