世界衛(wèi)生組織（WHO）于 5 月 16 日發(fā)布文章呼吁謹慎使用人工智能（AI）生成的大型語言模型工具（LLM），以保護和促進人類福祉、人類安全和自主權以及保障公共衛(wèi)生。
LLM 包括一些發(fā)展最快的平臺，例如 ChatGPT、Bard、Bert以及許多其他模仿理解、處理和產生人類交流的平臺。它們在公眾中的迅速傳播，也越來越多的用于醫(yī)療相關目的，這些實驗性使用正在激發(fā)對支持人類健康需求潛力的極大興奮。
當使用 LLM 來改善醫(yī)療信息的獲取，作為決策支持工具，甚至用于在資源貧乏地區(qū)提高診斷能力以保護人們的健康和減少不公平時，必須仔細審查其風險。
雖然 WHO 對技術（包括 LLM）的適當使用以支持醫(yī)療衛(wèi)生專業(yè)人員、患者、研究人員和科學家持積極態(tài)度，但令人擔憂的是，在 LLM 的使用中并未采取與慣常對待其它新技術一致的謹慎態(tài)度。這包括廣泛遵守透明度、包容性、公眾參與、專家監(jiān)督和嚴格評估的關鍵價值觀。
貿然采用未經檢驗的系統(tǒng)可能導致醫(yī)療衛(wèi)生工作者出錯，對患者造成傷害，削弱對 AI 的信任，從而破壞（或延遲）此類技術在世界范圍內的潛在長期獲益和使用。
WHO 指出，需要嚴格監(jiān)督以確保通過安全、有效和合乎道德的方式使用這些技術，這方面的擔憂包括：
用于訓練AI的數(shù)據可能存在偏差，產生誤導性或不準確的信息，可能對醫(yī)療衛(wèi)生、公平和包容性構成風險；
LLM 生成的回復對終端用戶來說可能具有權威性和合理性；但是，這些回復可能完全不正確或包含嚴重錯誤，尤其是與醫(yī)療衛(wèi)生相關的回復；
LLM 可能接受過先前未同意使用的數(shù)據的培訓，并且 LLM 可能不會保護用戶提供給應用程序以生成回復的敏感數(shù)據（包括健康數(shù)據）;
LLM 可能會被濫用，以文本、音頻或視頻的形式生成和傳播令人信服的虛假信息，而公眾難以將其與可靠的醫(yī)療衛(wèi)生內容區(qū)分開來；
WHO 致力于利用新技術（包括 AI 和數(shù)字健康）來改善人類健康，同時建議政策制定者在技術公司努力實現(xiàn) LLM 商業(yè)化的同時確保患者安全和防護。
WHO 建議，無論是個人、醫(yī)護人員還是醫(yī)療系統(tǒng)管理者和決策者，在常規(guī)醫(yī)療衛(wèi)生和醫(yī)學中廣泛使用這項技術之前，應處理這些問題，并衡量明確的獲益證據。
WHO重申，在設計、開發(fā)和部署用于醫(yī)療衛(wèi)生的 AI 時，應用倫理原則和適當?shù)墓苤蔚闹匾?。WHO 確定的 6 項核心原則是：（1）保護自主權；(2) 促進人類福祉、人類安全和公共利益；(3) 確保透明度、可解釋性和可理解性；(4) 培養(yǎng)責任感和問責制；(5) 確保包容性和公平性；（6）促進具有響應性和可持續(xù)性的 AI。
京公網安備11010802046783號
