2023年7月10日，國家網信辦聯合七部委發(fā)布《生成式人工智能服務管理暫行辦法》（簡稱《辦法》），《辦法》自2023年8月15日起施行，成為全球首部針對AIGC監(jiān)管的法律文件。
一、《辦法》關鍵要點梳理
1. 堅持發(fā)展和安全并重，對生成式人工智能服務實行包容審慎和分類分級監(jiān)管
《辦法》弱化了《征求意見稿》強調監(jiān)管的基調。《辦法》明確了“對生成式人工智能服務實行包容審慎和分類分級監(jiān)管”，在一定程度上借鑒了歐美等國家人工智能相關法案之中根據風險分類分級管理的原則。
如歐盟《人工智能法案》將人工智能系統分為不可接受的風險、高風險、有限風險和低/輕微風險四類（見表1），針對不同級別的人工智能系統設置了不同的合規(guī)要求，如高風險類型的人工智能系統是監(jiān)管重點，對其規(guī)定了全流程風險管理措施。
《辦法》更加突出行業(yè)監(jiān)管的特性。第十六條規(guī)定，“網信、發(fā)展改革、教育、科技、工業(yè)和信息化、公安、廣播電視、新聞出版等部門，依據各自職責依法加強對生成式人工智能服務的管理。”
這種行業(yè)導向監(jiān)管模式符合生成式人工智能的強技術屬性，基于各行業(yè)特點分類施策，有助于實現各個行業(yè)、各風險類別AIGC服務的充分發(fā)展，同時也可針對性地控制其應用合規(guī)風險。
2.明確適用對象和范圍：適用于向境內公眾提供AIGC服務，對大量垂直領域如科研、工業(yè)應用等場景排除適用范圍
一是明確了適用對象。主要針對利用AIGC向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務。境外AIGC服務提供者，無論是直接向境內提供服務，還是通過API接口等方式間接提供服務，都將受限于管理辦法的相關規(guī)定。
二是區(qū)分了“服務”與“技術”。《辦法》重點突出了AIGC服務應用層的信息內容安全，對模型及其相關技術作為基礎設施的功能研發(fā)活動并不適用，鼓勵AIGC在多領域探索應用，為人工智能領域的技術研發(fā)、應用保留了一定試錯空間。
三是區(qū)分了“面向公眾”和“面向非公眾”。對面向非公眾留有一定政策余地，為企業(yè)端落地AIGC技術、賦能企業(yè)生產運營、提高產出效率提供了有效支持。
3.以鼓勵產業(yè)創(chuàng)新和發(fā)展為重，明確生成式人工智能技術發(fā)展路徑和重點方向
《辦法》體現了國家對生成式人工智能產業(yè)發(fā)展的鼓勵和支持，既為產業(yè)創(chuàng)新提供了政策導向和法律保障，又為產業(yè)監(jiān)管提供了科學合理且平衡適度的框架?！掇k法》深入聚焦人工智能基礎設施建設、理論和技術創(chuàng)新、重大應用場景、人才發(fā)展、產業(yè)鏈供應鏈生態(tài)體系等領域，服務人工智能產業(yè)的高質量發(fā)展。具體包括：
（1）算力基礎設施。推動生成式人工智能基礎設施和公共訓練數據資源平臺建設。促進算力資源協同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。
（2）理論和技術創(chuàng)新。鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新。
（3）應用場景。鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，探索優(yōu)化應用場景，構建應用生態(tài)體系。
（4）生態(tài)體系。支持行業(yè)組織、企業(yè)、教育和科研機構、公共文化機構、有關專業(yè)機構等在生成式人工智能技術創(chuàng)新、數據資源建設、轉化應用、風險防范等方面開展協作。
4.搭建人工智能全生命周期監(jiān)管體系，對數據、算法等業(yè)務適度“松綁”
一是放寬對于訓練數據質量的要求?！掇k法》在《征求意見稿》提出的訓練數據“真實性、準確性、客觀性、多樣性”基礎上，從“能夠保證”訓練數據質量減輕至“提高”訓練數據質量，“增強”訓練數據的真實性、準確性、客觀性及多樣性。這種變化在一定程度上打消了提供者對使用訓練數據、擴大訓練數據范圍的顧慮，有助其積極開展相關數據訓練活動。
二是平衡“算法透明”與“商業(yè)秘密”間的關系。《辦法》明確“算法機制機理”披露要求，有效回避算法的源代碼披露對于企業(yè)知識產權、商業(yè)秘密的影響，同時也明確了監(jiān)管職責，審慎考量算法透明問題。
二、啟示建議
1.加快完善內部人工智能合規(guī)制度體系
搭建企業(yè)層面的人工智能合規(guī)體系，做好企業(yè)內部治理，打好制度管理基礎。成立企業(yè)人工智能風險管理機構，落實AIGC治理與運營統籌職責，牽頭制定集團層面相關制度規(guī)范，如人工智能開發(fā)管理制度、技術和服務監(jiān)測制度、數據安全與合規(guī)管理規(guī)范、科技倫理審查制度等，以應對未來各種監(jiān)管舉措。
2.搭建涵蓋人工智能算法、數據、模型的全生命周期審核體系
一是建立全生命周期的人工智能審核管理體系。在大模型的研發(fā)、生產和應用過程中，對生成式內容主動進行合理標記并在模型訓練和預訓練、提供服務等各個環(huán)節(jié)進行有效的合規(guī)管理和落實管控。
二是建立算法安全監(jiān)測制度。對AIGC算法進行審查和測試，評估算法安全性與合規(guī)性。建立AIGC算法安全監(jiān)測機制和流程，防止人工智能算法產生歧視、侵權、不正當競爭等行為，并確保服務公正性。
三是強化模型訓練和數據安全。OpenAI日前受到美國聯邦貿易委員會（FTC）調查，涉及不正當處理個人數據等問題，面臨潛在的法律威脅。這次FTC調查凸顯了正當處理AI數據和安全的重要性。企業(yè)在進行AIGC模型訓練和應用時，應確保訓練數據的合規(guī)性與安全性，保障數據來源合法性，特別是強化對外部數據提供方的審查；提升訓練數據的多樣性，避免從單一范圍訓練數據。
四是建立內部記錄機制。AIGC算法需要進行持續(xù)監(jiān)測和更新，及時發(fā)現和修復可能存在的安全漏洞和問題。建立完善的漏洞報告和漏洞修復機制，及時響應用戶反饋和安全問題，實現對人工智能開發(fā)和使用的信息記錄，滿足算法透明性義務和及時響應監(jiān)管的要求，有助于企業(yè)合規(guī)自證。
3.圍繞《辦法》提出的布局方向，推進自身AIGC業(yè)務發(fā)展
在算力基礎設施領域，要結合自身算網融合稟賦，發(fā)展大模型基礎設施，提供大規(guī)模智算和大模型開發(fā)平臺服務；依據《辦法》主動推進算力資源協同共享，并與產業(yè)合作伙伴聯合攻關，提升算力資源利用效能。
在理論和技術創(chuàng)新領域，成立大模型創(chuàng)新中心，聯合高校與科研院所聚焦下一代人工智能技術研發(fā)，助力大模型高水平自立自強；提升人工智能垂直領域技術研發(fā)，滿足差異化大模型服務需求。
在應用場景領域，圍繞自身優(yōu)勢構建行業(yè)大模型能力，重點從ToB端切入行業(yè)大模型領域，助力政企行業(yè)客戶提質增效。
在生態(tài)領域，構建產學研相結合的大模型生態(tài)，積極參與大模型領域國家標準、行業(yè)標準制定，協同參與制定相關國際標準，助力數字中國建設。
京公網安備11010802046783號
