華盛頓——轄屬美國(guó)商務(wù)部的國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院（NIST）發(fā)布了《人工智能風(fēng)險(xiǎn)管理框架》（AI RMF 1.0），這是一份指導(dǎo)性文件，供設(shè)計(jì)、開(kāi)發(fā)、部署或使用人工智能系統(tǒng)的組織自愿使用，以幫助管理人工智能技術(shù)帶來(lái)的諸多風(fēng)險(xiǎn)。
圖片來(lái)源：N. Hanacek/NIST
《人工智能風(fēng)險(xiǎn)管理框架》遵循了美國(guó)國(guó)會(huì)要求NIST制定框架的指示，在與私營(yíng)和公共部門的緊密合作下共同制定。隨著技術(shù)的不斷發(fā)展，框架旨在適應(yīng)人工智能的發(fā)展，以供各組織在不同程度和能力上使用，以便社會(huì)能夠從人工智能技術(shù)中受益，同時(shí)避免其潛在危害。
“這一自愿性框架將有助于開(kāi)發(fā)和部署人工智能技術(shù)，使美國(guó)、其他國(guó)家和組織能夠加強(qiáng)人工智能的可信度，同時(shí)根據(jù)我們的民主價(jià)值觀管理風(fēng)險(xiǎn)，”美國(guó)商務(wù)部副部長(zhǎng)Don Graves說(shuō)，“該框架應(yīng)該加速人工智能的創(chuàng)新和增長(zhǎng)，同時(shí)促進(jìn)，而不是限制或損害，所有人的公民權(quán)利、公民自由和平等。”
與傳統(tǒng)軟件相比，人工智能帶來(lái)了一些不同的風(fēng)險(xiǎn)。人工智能系統(tǒng)是在數(shù)據(jù)的基礎(chǔ)上進(jìn)行訓(xùn)練的，而這些數(shù)據(jù)會(huì)隨著時(shí)間的推移而發(fā)生變化，有時(shí)會(huì)發(fā)生意想不到的重大變化，以我們難以理解的方式影響系統(tǒng)。這些系統(tǒng)在本質(zhì)上也是“社會(huì)技術(shù)性”的，意味著它們會(huì)受到社會(huì)動(dòng)態(tài)和人類行為的影響。人工智能風(fēng)險(xiǎn)可能來(lái)自這些技術(shù)和社會(huì)因素的復(fù)雜相互作用，這些風(fēng)險(xiǎn)影響了人們的生活，從與在線聊天機(jī)器人的體驗(yàn)到工作和貸款申請(qǐng)的結(jié)果。
這個(gè)框架使各組織有能力以不同的方式思考人工智能及其風(fēng)險(xiǎn)。它推動(dòng)了機(jī)構(gòu)文化的變革，鼓勵(lì)各組織以新的視角看待人工智能——包括如何思考、溝通、衡量、監(jiān)測(cè)人工智能風(fēng)險(xiǎn)及其潛在的積極和消極影響。
《人工智能風(fēng)險(xiǎn)管理框架》提供了一個(gè)靈活的、結(jié)構(gòu)化的、可衡量的流程，使各組織能夠應(yīng)對(duì)人工智能風(fēng)險(xiǎn)。遵循這一流程來(lái)管理人工智能風(fēng)險(xiǎn)可以最大限度地發(fā)揮人工智能技術(shù)的效益，同時(shí)降低人工智能對(duì)個(gè)人、群體、社區(qū)、組織和社會(huì)產(chǎn)生負(fù)面影響的可能性。
負(fù)責(zé)標(biāo)準(zhǔn)與技術(shù)的商務(wù)部副部長(zhǎng)、NIST院長(zhǎng)Laurie E. Locascio表示，該框架是NIST培養(yǎng)對(duì)人工智能技術(shù)的信任的工作的一部分，如果該技術(shù)要被社會(huì)廣泛接受，這是必要的。
“《人工智能風(fēng)險(xiǎn)管理框架》可以幫助任何行業(yè)和任何規(guī)模的公司和其他組織啟動(dòng)或加強(qiáng)人工智能風(fēng)險(xiǎn)管理方法，”Locascio說(shuō)。“它提供了一種新的方式來(lái)把負(fù)責(zé)任的做法和可操作的指導(dǎo)結(jié)合起來(lái)，從而使人工智能值得信賴，且能負(fù)責(zé)任的運(yùn)作。我們期望《人工智能風(fēng)險(xiǎn)管理框架》能夠幫助推動(dòng)最佳實(shí)踐和標(biāo)準(zhǔn)的制定。”
《人工智能風(fēng)險(xiǎn)管理框架》分為兩部分。第一部分討論了組織如何確定與人工智能相關(guān)的風(fēng)險(xiǎn)，并概述了值得信賴的人工智能系統(tǒng)的特征。第二部分是框架的核心，描述了四個(gè)具體的功能——治理、了解情況、測(cè)量和管理，以幫助組織在實(shí)踐中應(yīng)對(duì)人工智能系統(tǒng)的風(fēng)險(xiǎn)。這些功能可以應(yīng)用于特定環(huán)境下的使用案例和人工智能生命周期的任何階段。
通過(guò)與私營(yíng)和公共部門的密切合作，NIST花了18個(gè)月時(shí)間制定了《人工智能風(fēng)險(xiǎn)管理框架》。該文件體現(xiàn)了NIST從240多個(gè)不同組織收到的關(guān)于該框架草案的大約400條正式意見(jiàn)。NIST今天發(fā)布了一些組織的聲明，他們已經(jīng)承諾使用或推廣該框架。
NIST今天還發(fā)布了一份配套的自愿性《人工智能風(fēng)險(xiǎn)管理框架》操作手冊(cè)，其中建議了有關(guān)瀏覽和使用該框架的方法。
NIST計(jì)劃與人工智能業(yè)界合作，定期更新該框架，并歡迎在任何時(shí)候?qū)υ摬僮魇謨?cè)提出補(bǔ)充和改進(jìn)建議。2023年2月底前收到的意見(jiàn)將被納入2023年春季發(fā)布的更新版操作手冊(cè)中。
此外，NIST計(jì)劃啟動(dòng)一個(gè)值得信賴和可靠的人工智能資源中心，幫助各組織將《人工智能風(fēng)險(xiǎn)管理框架》1.0版付諸實(shí)踐。NIST鼓勵(lì)各組織發(fā)表簡(jiǎn)述，分享他們?nèi)绾卧谄涮囟ㄇ闆r下使用該工具的經(jīng)驗(yàn)。投稿可發(fā)送至：AIFramework@nist.gov。
NIST致力于繼續(xù)與公司、社會(huì)團(tuán)體、政府機(jī)構(gòu)、大學(xué)和其他機(jī)構(gòu)合作，制定更多的指導(dǎo)原則。NIST于今日發(fā)布了這項(xiàng)工作的路線圖。
這個(gè)框架是NIST廣泛且不斷增長(zhǎng)的人工智能相關(guān)工作的一部分，這些工作包括基礎(chǔ)和應(yīng)用研究，重點(diǎn)關(guān)注測(cè)量和評(píng)估、技術(shù)標(biāo)準(zhǔn)以及對(duì)人工智能政策的推動(dòng)。
京公網(wǎng)安備11010802046783號(hào)
