《生成式人工智慧服務管理暫行辦法》（以下稱《辦法》），是國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局七部門於2023年7月13日聯合公布，自2023年8月15日起施行的辦法。
《辦法》旨在促進生成式人工智慧健康發展和規範套用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。《辦法》根據《中華人民共和國網路安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規制定。出台《辦法》，既是促進生成式人工智慧健康發展的重要要求，也是防範生成式人工智慧服務風險的現實需要。
基本介紹
- 中文名：生成式人工智慧服務管理暫行辦法
- 頒布時間：2023年7月13日
- 實施時間：2023年8月15日
- 發布單位：國家網信辦、國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局
- 文號：國家網際網路信息辦公室中華人民共和國國家發展和改革委員會中華人民共和國教育部中華人民共和國科學技術部中華人民共和國工業和信息化部中華人民共和國公安部國家廣播電視總局令第15號
辦法發布,辦法全文,第一章 總則,第二章 技術發展與治理,第三章 服務規範,第四章 監督檢查和法律責任,第五章 附則,答記者問,內容解讀,
辦法發布
令
第15號
《生成式人工智慧服務管理暫行辦法》已經2023年5月23日國家網際網路信息辦公室2023年第12次室務會會議審議通過，並經國家發展和改革委員會、教育部、科學技術部、工業和信息化部、公安部、國家廣播電視總局同意，現予公布，自2023年8月15日起施行。
國家網際網路信息辦公室主任 莊榮文
國家發展和改革委員會主任 鄭柵潔
教育部部長 懷進鵬
科學技術部部長 王志剛
工業和信息化部部長 金壯龍
公安部部長 王小洪
國家廣播電視總局局長 曹淑敏
2023年7月10日
辦法全文
第一章 總則
第一條 為了促進生成式人工智慧健康發展和規範套用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網路安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規，制定本辦法。
第二條 利用生成式人工智慧技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務（以下稱生成式人工智慧服務），適用本辦法。
國家對利用生成式人工智慧服務從事新聞出版、影視製作、文藝創作等活動另有規定的，從其規定。
行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、套用生成式人工智慧技術，未向境內公眾提供生成式人工智慧服務的，不適用本辦法的規定。
第三條 國家堅持發展和安全並重、促進創新和依法治理相結合的原則，採取有效措施鼓勵生成式人工智慧創新發展，對生成式人工智慧服務實行包容審慎和分類分級監管。
第四條 提供和使用生成式人工智慧服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，遵守以下規定：
（一）堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容；
（二）在算法設計、訓練數據選擇、模型生成和最佳化、提供服務等過程中，採取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；
（三）尊重智慧財產權、商業道德，保守商業秘密，不得利用算法、數據、平台等優勢，實施壟斷和不正當競爭行為；
（四）尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；
（五）基於服務類型特點，採取有效措施，提升生成式人工智慧服務的透明度，提高生成內容的準確性和可靠性。
第二章 技術發展與治理
第五條 鼓勵生成式人工智慧技術在各行業、各領域的創新套用，生成積極健康、向上向善的優質內容，探索最佳化套用場景，構建套用生態體系。
支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智慧技術創新、數據資源建設、轉化套用、風險防範等方面開展協作。
第六條 鼓勵生成式人工智慧算法、框架、晶片及配套軟體平台等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智慧相關國際規則制定。
推動生成式人工智慧基礎設施和公共訓練數據資源平台建設。促進算力資源協同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。鼓勵採用安全可信的晶片、軟體、工具、算力和數據資源。
第七條 生成式人工智慧服務提供者（以下稱提供者）應當依法開展預訓練、最佳化訓練等訓練數據處理活動，遵守以下規定：
（一）使用具有合法來源的數據和基礎模型；
（二）涉及智慧財產權的，不得侵害他人依法享有的智慧財產權；
（三）涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；
（四）採取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性；
第八條 在生成式人工智慧技術研發過程中進行數據標註的，提供者應當制定符合本辦法要求的清晰、具體、可操作的標註規則；開展數據標註質量評估，抽樣核驗標註內容的準確性；對標註人員進行必要培訓，提升尊法守法意識，監督指導標註人員規範開展標註工作。
第三章 服務規範
第九條 提供者應當依法承擔網路信息內容生產者責任，履行網路信息安全義務。涉及個人信息的，依法承擔個人信息處理者責任，履行個人信息保護義務。
提供者應當與註冊其服務的生成式人工智慧服務使用者（以下稱使用者）簽訂服務協定，明確雙方權利義務。
第十條 提供者應當明確並公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智慧技術，採取有效措施防範未成年人用戶過度依賴或者沉迷生成式人工智慧服務。
第十一條 提供者對使用者的輸入信息和使用記錄應當依法履行保護義務，不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄。
提供者應當依法及時受理和處理個人關於查閱、複製、更正、補充、刪除其個人信息等的請求。
第十二條 提供者應當按照《網際網路信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。
第十三條 提供者應當在其服務過程中，提供安全、穩定、持續的服務，保障用戶正常使用。
第十四條 提供者發現違法內容的，應當及時採取停止生成、停止傳輸、消除等處置措施，採取模型最佳化訓練等措施進行整改，並向有關主管部門報告。
提供者發現使用者利用生成式人工智慧服務從事違法活動的，應當依法依約採取警示、限制功能、暫停或者終止向其提供服務等處置措施，保存有關記錄，並向有關主管部門報告。
第十五條 提供者應當建立健全投訴、舉報機制，設定便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報並反饋處理結果。
第四章 監督檢查和法律責任
第十六條 網信、發展改革、教育、科技、工業和信息化、公安、廣播電視、新聞出版等部門，依據各自職責依法加強對生成式人工智慧服務的管理。
國家有關主管部門針對生成式人工智慧技術特點及其在有關行業和領域的服務套用，完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引。
第十七條 提供具有輿論屬性或者社會動員能力的生成式人工智慧服務的，應當按照國家有關規定開展安全評估，並按照《網際網路信息服務算法推薦管理規定》履行算法備案和變更、註銷備案手續。
第十八條 使用者發現生成式人工智慧服務不符合法律、行政法規和本辦法規定的，有權向有關主管部門投訴、舉報。
第十九條 有關主管部門依據職責對生成式人工智慧服務開展監督檢查，提供者應當依法予以配合，按要求對訓練數據來源、規模、類型、標註規則、算法機制機理等予以說明，並提供必要的技術、數據等支持和協助。
參與生成式人工智慧服務安全評估和監督檢查的相關機構和人員對在履行職責中知悉的國家秘密、商業秘密、個人隱私和個人信息應當依法予以保密，不得泄露或者非法向他人提供。
第二十條 對來源於中華人民共和國境外向境內提供生成式人工智慧服務不符合法律、行政法規和本辦法規定的，國家網信部門應當通知有關機構採取技術措施和其他必要措施予以處置。
第二十一條 提供者違反本辦法規定的，由有關主管部門依照《中華人民共和國網路安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規的規定予以處罰；法律、行政法規沒有規定的，由有關主管部門依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停提供相關服務。
構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。
第五章 附則
第二十二條 本辦法下列用語的含義是：
（一）生成式人工智慧技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術。
（二）生成式人工智慧服務提供者，是指利用生成式人工智慧技術提供生成式人工智慧服務（包括通過提供可程式接口等方式提供生成式人工智慧服務）的組織、個人。
（三）生成式人工智慧服務使用者，是指使用生成式人工智慧服務生成內容的組織、個人。
第二十三條 法律、行政法規規定提供生成式人工智慧服務應當取得相關行政許可的，提供者應當依法取得許可。
外商投資生成式人工智慧服務，應當符合外商投資相關法律、行政法規的規定。
第二十四條 本辦法自2023年8月15日起施行。
答記者問
2023年7月，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公布了《生成式人工智慧服務管理暫行辦法》。國家網信辦有關負責人就《辦法》相關問題回答了記者提問。
問：請簡要介紹《辦法》出台的背景？
答：制定《辦法》主要基於以下幾個方面的考慮：一是深入貫徹落實習近平總書記重要指示精神和黨中央決策部署的重要舉措。習近平總書記在主持召開中共中央政治局會議時指出：“要重視通用人工智慧發展，營造創新生態，重視防範風險。”二是促進生成式人工智慧健康發展的迫切需求。隨著生成式人工智慧技術的快速發展，為經濟社會發展帶來新機遇的同時，也產生了傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題。《辦法》堅持目標導向和問題導向，明確了促進生成式人工智慧技術發展的具體措施，規定生成式人工智慧服務的基本規範。三是推進實施法律規定的內在要求。制定《辦法》，是落實《網路安全法》、《數據安全法》、《個人信息保護法》、《科學技術進步法》有關規定的重要要求，進一步規範數據處理等活動，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。
問：《辦法》的適用範圍是什麼？
答：《辦法》規定，利用生成式人工智慧技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容的服務，適用本辦法。國家對利用生成式人工智慧服務從事新聞出版、影視製作、文藝創作等活動另有規定的，從其規定。行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、套用生成式人工智慧技術，未向境內公眾提供生成式人工智慧服務的，不適用本辦法的規定。
問：《辦法》堅持的主要原則是什麼？
答：《辦法》提出國家堅持發展和安全並重、促進創新和依法治理相結合的原則，採取有效措施鼓勵生成式人工智慧創新發展，對生成式人工智慧服務實行包容審慎和分類分級監管。
問：《辦法》中所稱生成式人工智慧技術和生成式人工智慧服務提供者是指什麼？
答：《辦法》中所稱生成式人工智慧技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術；生成式人工智慧服務提供者，是指利用生成式人工智慧技術提供生成式人工智慧服務（包括通過提供可程式接口等方式提供生成式人工智慧服務）的組織、個人。
問：《辦法》對促進生成式人工智慧健康發展有哪些考慮？
答：《辦法》在治理對象上，針對生成式人工智慧服務。在監管方式上，提出對生成式人工智慧服務實行包容審慎和分類分級監管，要求國家有關主管部門針對生成式人工智慧技術特點及其在有關行業和領域的服務套用，完善與創新發展相適應的科學監管方式，制定相應的分類分級監管規則或者指引。在促進發展具體措施上，一是明確鼓勵生成式人工智慧技術在各行業、各領域的創新套用，生成積極健康、向上向善的優質內容，探索最佳化套用場景，構建套用生態體系。二是支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智慧技術創新、數據資源建設、轉化套用、風險防範等方面開展協作。三是鼓勵生成式人工智慧算法、框架、晶片及配套軟體平台等基礎技術的自主創新，平等互利開展國際交流與合作，參與生成式人工智慧相關國際規則制定。四是提出推動生成式人工智慧基礎設施和公共訓練數據資源平台建設。促進算力資源協同共享，提升算力資源利用效能。推動公共數據分類分級有序開放，擴展高質量的公共訓練數據資源。鼓勵採用安全可信的晶片、軟體、工具、算力和數據資源。
問：《辦法》明確提供和使用生成式人工智慧服務應當遵守哪些規定？
答：《辦法》明確提供和使用生成式人工智慧服務應當堅持社會主義核心價值觀，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容；在算法設計、訓練數據選擇、模型生成和最佳化、提供服務等過程中，採取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視；尊重智慧財產權、商業道德，保守商業秘密，不得利用算法、數據、平台等優勢，實施壟斷和不正當競爭行為；尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益；基於服務類型特點，採取有效措施，提升生成式人工智慧服務的透明度，提高生成內容的準確性和可靠性。
問：《辦法》規定的治理制度主要有哪些？
答：《辦法》明確生成式人工智慧服務提供者應當依法開展預訓練、最佳化訓練等訓練數據處理活動，使用具有合法來源的數據和基礎模型；涉及智慧財產權的，不得侵害他人依法享有的智慧財產權；涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；採取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性。此外，明確了數據標註的相關要求。
問：《辦法》主要明確了哪些生成式人工智慧服務規範？
答：《辦法》要求採取有效措施防範未成年人用戶過度依賴或者沉迷生成式人工智慧服務。規定提供者應當按照《網際網路信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識。規定提供者發現違法內容的，應當及時採取停止生成、停止傳輸、消除等處置措施並採取模型最佳化訓練等措施進行整改。明確提供者發現使用者利用生成式人工智慧服務從事違法活動的，應當依法依約採取有關處置措施，保存有關記錄，並向有關主管部門報告。
問：《辦法》對投訴、舉報作了哪些規定？
答：《辦法》規定提供者應當建立健全投訴、舉報機制，設定便捷的投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理公眾投訴舉報並反饋處理結果。明確使用者發現生成式人工智慧服務不符合法律、行政法規和本辦法規定的，有權向有關主管部門投訴、舉報。
內容解讀
專家解讀｜推動生成式人工智慧精細化治理
2023年07月13日 20:02來源： 中國網信網
當前，生成式人工智慧正在加速發展，不斷催生新場景、新業態、新模式和新市場，賦能千行百業。與此同時，其暴露出的安全風險也引發了各國監管部門的廣泛關注，義大利、德國、法國、西班牙等多個國家的數據保護監管機構對ChatGPT表達擔憂或發起調查。近日，國家網信辦聯合國家有關部門公布了《生成式人工智慧服務管理暫行辦法》（以下簡稱《辦法》）。《辦法》是我國促進生成式人工智慧健康發展和規範套用的專門立法，界定了生成式人工智慧技術的基本概念，規定了生成式人工智慧服務提供者的制度要求，為生成式人工智慧的健康發展指明了方向。
一、促進發展，鼓勵生成式人工智慧研發創新
新一代人工智慧是推動科技跨越發展、產業最佳化升級、生產力整體躍升的驅動力量。習近平總書記高度重視人工智慧技術發展，指出要加快新能源、人工智慧、生物製造、綠色低碳、量子計算等前沿技術研發和套用推廣。中共中央政治局4月28日召開會議強調，“要重視通用人工智慧發展，營造創新生態，重視防範風險”。
《辦法》立足於促進生成式人工智慧健康發展和規範套用，在總則中明確了國家堅持發展和安全並重、促進創新和依法治理相結合的原則，並在技術發展與治理一章中提出了一系列鼓勵措施。一是鼓勵創新套用。生成式人工智慧套用場景豐富，可以與各行業深度結合，助力實現各行業智慧型化變革。《辦法》明確提出鼓勵生成式人工智慧技術在各行業、各領域的創新套用，有助於生成式人工智慧賦能千行百業。二是鼓勵多方協作。生成式人工智慧在技術創新、數據資源建設、轉化套用、風險防範等方面涉及多方主體，為此，《辦法》鼓勵行業組織、企業以及各個相關機構之間開展協作。三是鼓勵自主創新與國際合作。生成式人工智慧尚處於發展階段，而我國在生成式人工智慧相關算法、晶片等技術研發方面起步相對較晚。《辦法》一方面鼓勵生成式人工智慧相關基礎技術的自主創新，另一方面鼓勵平等互利開展國際交流與合作，從而促進我國人工智慧技術發展。四是鼓勵資源共享。算力是支撐數字經濟蓬勃發展的重要“底座”，數據是生成式人工智慧的重要資源。為此，《辦法》提出推動生成式人工智慧基礎設施和公共訓練數據資源平台建設的措施，促進算力資源協同共享，提升算力資源利用效能。
二、劃定底線，推動生成式人工智慧向上向善
以ChatGPT為代表的生成式人工智慧在社會變革中的具有重要作用，但其可能存在的數據違法收集、智慧財產權侵權、生成虛假信息等問題同樣不容忽視。
《辦法》積極回應生成式人工智慧帶來的社會問題，明確提供和使用生成式人工智慧服務的法律底線。一是不得生成違法內容。《辦法》落實《網路安全法》等法律的規定，強調提供和使用生成式人工智慧服務應當堅持社會主義核心價值觀，不得生成法律、行政法規禁止的內容。二是防止歧視。訓練數據本身存在歧視內容、算法更傾向於某些特徵值、標註人員的主觀判斷等因素可能導致歧視問題，給社會帶來不良後果，如邊緣化弱勢人群或者煽動仇恨與暴力。為減少歧視現象發生，《辦法》要求在算法設計、訓練數據選擇、模型生成和最佳化、提供服務等過程中，採取有效措施防止歧視。三是尊重智慧財產權和他人合法權益。生成式人工智慧在個人信息的處理過程中，可能存在違法收集、使用個人信息等風險；生成式人工智慧的訓練數據中如包括他人已發表並享有著作權的作品，也可能給智慧財產權造成侵害。為減少侵權事件的發生，《辦法》強調尊重智慧財產權、商業道德；尊重他人合法權益，不得危害他人身心健康，不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。四是提高生成內容準確性和可靠性。自生成式人工智慧面世之初，其存在的“一本正經地胡說八道”現象便引起了人們的警惕。這種虛假信息的產生很可能會誤導用戶，加劇社會對共享信息的不信任。如何保障生成內容的真實性，既是產業界為進一步擴大生成式人工智慧商用範圍需要克服的技術難題，也是監管部門需要重點考量的問題。《辦法》要求生成式人工智慧服務提供者（以下簡稱“提供者”）基於服務類型特點，採取有效措施，提升生成式人工智慧服務的透明度，提高生成內容的準確性和可靠性。這一要求充分體現了發展與安全並重的原則，符合生成式人工智慧的技術原理與產業需要。
三、細化責任，構建生成式人工智慧治理體系
生成式人工智慧從研發到落地需要經歷多個環節，包括訓練數據處理、數據標註、提供服務等。清晰界定不同環節的要求更有利於降低生成式人工智慧的安全風險，增強制度的可落地性。
《辦法》明確提供者的義務與責任，提供者是利用生成式人工智慧技術提供生成式人工智慧服務的組織、個人，包括通過提供可程式接口等方式提供生成式人工智慧服務的組織、個人。在訓練數據處理環節，提供者應當使用具有合法來源的數據和基礎模型，並採取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性。在數據標註環節，提供者應當制定標註規則，開展數據標註質量評估，並對標註人員進行培訓。在提供服務環節，提供者應依法承擔網路信息內容生產者責任，按照《網際網路信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識；發現違法內容的，應當及時採取處置措施、進行整改並向有關主管部門報告；應依法承擔個人信息處理者責任，對生成式人工智慧服務使用者的輸入信息和使用記錄依法履行保護義務，及時受理和處理個人關於查閱、複製、更正、補充、刪除其個人信息等的請求；應履行用戶管理義務，明確並公開服務適用情況，指導使用者科學理性認識和依法使用技術，採取未成年人防沉迷措施，依法處置從事違法活動的使用者，建立健全投訴、舉報機制；應提供安全、穩定、持續的服務。
四、強化披露，明確生成式人工智慧監管手段
人工智慧算法具有“黑箱”特性，表現為行為不可控、決策機制難以解釋，給人工智慧監管帶來了一定困難。為此，《網際網路信息服務算法推薦管理規定》《網際網路信息服務深度合成管理規定》等規範已經明確了算法備案、安全評估等監管手段，提高算法的透明度與可問責性。
《辦法》與現有規範一脈相承，延續了此前監管手段，同時明確了分類分級監管的原則，健全了我國人工智慧治理體系。一是明確了安全評估與算法備案要求。為有效應對算法“黑箱”問題，《辦法》對提供具有輿論屬性或者社會動員能力的生成式人工智慧服務的，提出了安全評估與算法備案要求。二是明確了信息披露要求。《辦法》明確了提供者應配合主管部門的監督檢查，按要求對訓練數據來源、規模、類型、標註規則、算法機制機理等予以說明。
《辦法》是在區塊鏈、汽車數據、算法推薦、深度合成等立法之後，我國對新興領域立法的又一次探索。《辦法》充分協調了發展與安全之間的關係，一方面提出了生成式人工智慧發展的鼓勵措施，另一方面明確了生成式人工智慧的法律底線，構建了生成式人工智慧精細化治理體系，有利於推動生成式人工智慧健康有序發展，為世界貢獻人工智慧治理的中國智慧和中國方案。（作者：辛勇飛 中國信息通信研究院政策與經濟研究所所長）
