來源：中國(guó)網信網 

爲促進(jìn)生成(chéng)式人工智能(néng)技術健康發(fā)展和規範應用，根據《中華人民共和國(guó)網絡安全法》等法律法規，國(guó)家互聯網信息辦公室起(qǐ)草了《生成(chéng)式人工智能(néng)服務管理辦法（征求意見稿）》，現向(xiàng)社會(huì)公開(kāi)征求意見。公衆可通過(guò)以下途徑和方式提出反饋意見：

1.登錄中華人民共和國(guó)司法部 中國(guó)政府法制信息網（www.moj.gov.cn、www.chinalaw.gov.cn），進(jìn)入首頁主菜單的“立法意見征集”欄目提出意見。

2.通過(guò)電子郵件方式發(fā)送至：wajscy@cac.gov.cn。

3.通過(guò)信函方式將(jiāng)意見寄至：北京市海澱區阜成(chéng)路15号國(guó)家互聯網信息辦公室網絡安全協調局，郵編100048，并在信封上注明“生成(chéng)式人工智能(néng)服務管理辦法征求意見”。

意見反饋截止時間爲2023年5月10日。

附件：生成(chéng)式人工智能(néng)服務管理辦法（征求意見稿）

國(guó)家互聯網信息辦公室

2023年4月11日

生成(chéng)式人工智能(néng)服務管理辦法

（征求意見稿）

第一條 爲促進(jìn)生成(chéng)式人工智能(néng)健康發(fā)展和規範應用，根據《中華人民共和國(guó)網絡安全法》《中華人民共和國(guó)數據安全法》《中華人民共和國(guó)個人信息保護法》等法律、行政法規，制定本辦法。

第二條 研發(fā)、利用生成(chéng)式人工智能(néng)産品，面(miàn)向(xiàng)中華人民共和國(guó)境内公衆提供服務的，适用本辦法。

本辦法所稱生成(chéng)式人工智能(néng)，是指基于算法、模型、規則生成(chéng)文本、圖片、聲音、視頻、代碼等内容的技術。

第三條 國(guó)家支持人工智能(néng)算法、框架等基礎技術的自主創新、推廣應用、國(guó)際合作，鼓勵優先采用安全可信的軟件、工具、計算和數據資源。

第四條 提供生成(chéng)式人工智能(néng)産品或服務應當遵守法律法規的要求，尊重社會(huì)公德、公序良俗，符合以下要求：

（一）利用生成(chéng)式人工智能(néng)生成(chéng)的内容應當體現社會(huì)主義核心價值觀，不得含有颠覆國(guó)家政權、推翻社會(huì)主義制度，煽動分裂國(guó)家、破壞國(guó)家統一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能(néng)擾亂經(jīng)濟秩序和社會(huì)秩序的内容。

（二）在算法設計、訓練數據選擇、模型生成(chéng)和優化、提供服務等過(guò)程中，采取措施防止出現種(zhǒng)族、民族、信仰、國(guó)别、地域、性别、年齡、職業等歧視。

（三）尊重知識産權、商業道(dào)德，不得利用算法、數據、平台等優勢實施不公平競争。

（四）利用生成(chéng)式人工智能(néng)生成(chéng)的内容應當真實準确，采取措施防止生成(chéng)虛假信息。

（五）尊重他人合法利益，防止傷害他人身心健康，損害肖像權、名譽權和個人隐私，侵犯知識産權。禁止非法獲取、披露、利用個人信息和隐私、商業秘密。

第五條 利用生成(chéng)式人工智能(néng)産品提供聊天和文本、圖像、聲音生成(chéng)等服務的組織和個人（以下稱“提供者”），包括通過(guò)提供可編程接口等方式支持他人自行生成(chéng)文本、圖像、聲音等，承擔該産品生成(chéng)内容生産者的責任；涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務。

第六條 利用生成(chéng)式人工智能(néng)産品向(xiàng)公衆提供服務前，應當按照《具有輿論屬性或社會(huì)動員能(néng)力的互聯網信息服務安全評估規定》向(xiàng)國(guó)家網信部門申報安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

第七條 提供者應當對(duì)生成(chéng)式人工智能(néng)産品的預訓練數據、優化訓練數據來源的合法性負責。

用于生成(chéng)式人工智能(néng)産品的預訓練、優化訓練數據，應滿足以下要求：

（一）符合《中華人民共和國(guó)網絡安全法》等法律法規的要求；

（二）不含有侵犯知識産權的内容；

（三）數據包含個人信息的，應當征得個人信息主體同意或者符合法律、行政法規規定的其他情形；

（四）能(néng)夠保證數據的真實性、準确性、客觀性、多樣(yàng)性；

（五）國(guó)家網信部門關于生成(chéng)式人工智能(néng)服務的其他監管要求。

第八條 生成(chéng)式人工智能(néng)産品研制中采用人工标注時，提供者應當制定符合本辦法要求，清晰、具體、可操作的标注規則，對(duì)标注人員進(jìn)行必要培訓，抽樣(yàng)核驗标注内容的正确性。

第九條 提供生成(chéng)式人工智能(néng)服務應當按照《中華人民共和國(guó)網絡安全法》規定，要求用戶提供真實身份信息。

第十條 提供者應當明确并公開(kāi)其服務的适用人群、場合、用途，采取适當措施防範用戶過(guò)分依賴或沉迷生成(chéng)内容。

第十一條 提供者在提供服務過(guò)程中，對(duì)用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能(néng)夠推斷出用戶身份的輸入信息，不得根據用戶輸入信息和使用情況進(jìn)行畫像，不得向(xiàng)他人提供用戶輸入信息。法律法規另有規定的，從其規定。

第十二條 提供者不得根據用戶的種(zhǒng)族、國(guó)别、性别等進(jìn)行帶有歧視性的内容生成(chéng)。

第十三條 提供者應當建立用戶投訴接收處理機制，及時處置個人關于更正、删除、屏蔽其個人信息的請求；發(fā)現、知悉生成(chéng)的文本、圖片、聲音、視頻等侵害他人肖像權、名譽權、個人隐私、商業秘密，或者不符合本辦法要求時，應當采取措施，停止生成(chéng)，防止危害持續。

第十四條 提供者應當在生命周期内，提供安全、穩健、持續的服務，保障用戶正常使用。

第十五條 對(duì)于運行中發(fā)現、用戶舉報的不符合本辦法要求的生成(chéng)内容，除采取内容過(guò)濾等措施外，應在3個月内通過(guò)模型優化訓練等方式防止再次生成(chéng)。

第十六條 提供者應當按照《互聯網信息服務深度合成(chéng)管理規定》對(duì)生成(chéng)的圖片、視頻等内容進(jìn)行标識。

第十七條 提供者應當根據國(guó)家網信部門和有關主管部門的要求，提供可以影響用戶信任、選擇的必要信息，包括預訓練和優化訓練數據的來源、規模、類型、質量等描述，人工标注規則，人工标注數據的規模和類型，基礎算法和技術體系等。

第十八條 提供者應當指導用戶科學(xué)認識和理性使用生成(chéng)式人工智能(néng)生成(chéng)的内容，不利用生成(chéng)内容損害他人形象、名譽以及其他合法權益，不進(jìn)行商業炒作、不正當營銷。

用戶發(fā)現生成(chéng)内容不符合本辦法要求時，有權向(xiàng)網信部門或者有關主管部門舉報。

第十九條 提供者發(fā)現用戶利用生成(chéng)式人工智能(néng)産品過(guò)程中違反法律法規，違背商業道(dào)德、社會(huì)公德行爲時，包括從事(shì)網絡炒作、惡意發(fā)帖跟評、制造垃圾郵件、編寫惡意軟件，實施不正當的商業營銷等，應當暫停或者終止服務。

第二十條 提供者違反本辦法規定的，由網信部門和有關主管部門按照《中華人民共和國(guó)網絡安全法》《中華人民共和國(guó)數據安全法》《中華人民共和國(guó)個人信息保護法》等法律、行政法規的規定予以處罰。

法律、行政法規沒(méi)有規定的，由網信部門和有關主管部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停或者終止其利用生成(chéng)式人工智能(néng)提供服務，并處一萬元以上十萬元以下罰款。構成(chéng)違反治安管理行爲的，依法給予治安管理處罰；構成(chéng)犯罪的，依法追究刑事(shì)責任。

第二十一條 本辦法自2023年 月 日起(qǐ)實施。