美國 FDA 于 3 月 30 日 發(fā)布了一篇新指南草案，允許依賴人工智能的醫(yī)療器械開發(fā)商自動更新已經(jīng)在診所使用的產(chǎn)品。
FDA 這篇題為“針對支持人工智能/機(jī)器學(xué)習(xí)（AI/ML）的設(shè)備軟件功能的預(yù)定變更控制計劃的上市申報建議”的指南草案，概述了一個新流程，在該流程中，人工智能工具的制造商可以通過提交一份描述如何實施和測試變更的文件來提前獲得變更的批準(zhǔn)。
FDA 器械和放射健康中心負(fù)責(zé)人 Jeffrey Shuren 表示，“如果你要做的事情看起來是正確的，我們可以支持你的計劃，然后你就可以繼續(xù)推進(jìn)，只要你遵循計劃就可以做變更，而且不需要再問 FDA。”
這份指南文件將減少目前為每個重大產(chǎn)品更新尋求 FDA 批準(zhǔn)的需求。FDA 將其方法描述為“最不麻煩”的方法，可以安全地允許企業(yè)修改使用機(jī)器學(xué)習(xí)的產(chǎn)品。FDA 在其指南草案中表示，“機(jī)器學(xué)習(xí)的最大潛在好處之一是能夠通過迭代修改來提高 ML 模型性能，包括通過從真實世界的數(shù)據(jù)中學(xué)習(xí)。”指南草案代表了 FDA 首次嘗試處理現(xiàn)代人工智能系統(tǒng)提出的一個特別棘手的困境 —— 系統(tǒng)的核心功能會隨著其適應(yīng)現(xiàn)實世界的環(huán)境而改變。
雖然這對于旨在推薦要觀看的電影或要購買的商品的 AI 產(chǎn)品來說可能沒問題，而且是很好的，但在醫(yī)學(xué)上就成了問題，在產(chǎn)品更新過程中引入的錯誤可能會導(dǎo)致致命的故障。人工智能現(xiàn)在廣泛用于醫(yī)療產(chǎn)品，旨在檢測和監(jiān)測危及生命的情況，并為重病患者提供正確的治療。人工智能產(chǎn)品被用于快速檢測中風(fēng)、標(biāo)記疑似癌變，并警告敗血癥等病癥。
隨著人工智能在診所中的使用，產(chǎn)品本身并不是唯一可能發(fā)生變化的東西。臨床醫(yī)生的思維和行為也可能通過使用這些工具而演變，以難以追蹤的方式改變關(guān)系和決策。
華盛頓大學(xué)信息學(xué)研究所所長 Philip Payn 表示，“我認(rèn)為沒有人有圍繞這種動態(tài)系統(tǒng)實施監(jiān)管或認(rèn)證的經(jīng)驗。這種動態(tài)系統(tǒng)沒有基準(zhǔn)。”他表示，F(xiàn)DA 的變更控制框架為臨床 AI 工具帶來了正確的工程流程，但同時他也擔(dān)心文件負(fù)擔(dān)是否會延遲修改流程。“我喜歡變更控制設(shè)計模式，但我擔(dān)心它在監(jiān)管結(jié)構(gòu)中的實施速度和敏捷性。”
FDA 正在向公眾征求對指南的反饋意見，其希望正式改變審查 AI 器械的方法，這一過程可能需要數(shù)年時間。指南草案明確詳細(xì)地分解了尋求產(chǎn)品修改預(yù)先批準(zhǔn)的過程，列出了 AI 開發(fā)人員在將產(chǎn)品引入醫(yī)療環(huán)境后必須采取的修改產(chǎn)品的步驟。
產(chǎn)品制造商必須清楚地解釋他們的變更，指定測試更改后產(chǎn)品性能的計劃，并說明他們將如何向用戶傳達(dá)更改。一旦指南最終定稿，該政策將允許開發(fā)人員在尋求 FDA 對其產(chǎn)品的初步批準(zhǔn)時提前獲得更改許可。
京公網(wǎng)安備11010802046783號
