互联网信息服务深度合成管理规定

第一章 总则

第一条

为了规范互联网信息服务深度合成活动，弘扬社会主义核心价值观，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《互联网信息服务管理办法》等法律、行政法规，制定本规定。

第二条

在中华人民共和国境内应用深度合成技术提供互联网信息服务（以下简称深度合成服务），适用本规定。法律、行政法规另有规定的，依照其规定。

第三条

本规定所称深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术，包括但不限于：
（一）篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术；
（二）文本转语音、语音转换、语音属性编辑等生成或者编辑语音内容的技术；
（三）音乐生成、场景声编辑等生成或者编辑非语音内容的技术；
（四）人脸生成、人脸替换、人物属性编辑、人脸操控、姿态操控等生成或者编辑图像、视频内容中生物特征的技术；
（五）图像生成、图像增强、图像修复等生成或者编辑图像、视频内容中非生物特征的技术；
（六）三维重建、数字仿真等生成或者编辑数字人物、虚拟场景的技术。

第四条

国家网信部门负责统筹协调全国深度合成服务的监督管理工作。国务院电信、公安、文化广播电视等有关部门依据各自职责负责深度合成服务的监督管理工作。地方网信部门负责统筹协调本行政区域内的深度合成服务的监督管理工作。地方电信、公安、文化广播电视等有关部门依据各自职责负责本行政区域内的深度合成服务监督管理工作。

第五条

鼓励相关行业组织加强行业自律，建立健全行业标准、行业准则和自律管理制度，督促指导深度合成服务提供者和技术支持者制定完善服务规范、依法提供服务并接受社会监督。

第二章 深度合成服务规范

第六条

任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。深度合成服务提供者和技术支持者不得为上述活动提供服务。

第七条

深度合成服务提供者应当落实信息安全主体责任，建立健全管理制度和技术措施，制定公开管理规则、平台公约，与深度合成服务使用者签订服务协议，明确双方权利义务。

第八条

深度合成服务提供者应当制定和公开管理规则、平台公约，完善服务协议，依法依约履行管理责任，以显著方式提示深度合成服务使用者信息安全义务。

第九条

深度合成服务提供者和技术支持者应当基于移动电话号码、身份证件号码、统一社会信用代码等方式对使用者进行真实身份信息认证，不得向未进行真实身份信息认证的深度合成服务使用者提供信息发布服务。

第十条

深度合成服务提供者应当加强深度合成内容管理，采取技术或者人工方式对深度合成服务使用者的输入数据和合成结果进行审核。

第十一条

深度合成服务提供者应当建立健全用于识别违法和不良信息的特征库，完善入库标准、规则和程序。发现违法和不良信息的，应当及时采取处置措施，保存有关记录，并向网信部门和有关主管部门报告。

第十二条

深度合成服务提供者提供人脸、人声等生物识别信息编辑功能的，应当提示使用者依法告知被编辑的个人，并取得其单独同意。

第十三条

互联网应用商店服务提供者应当对深度合成服务提供者提供的深度合成应用程序履行以下管理责任：
（一）查验深度合成服务提供者的备案情况；
（二）督促深度合成服务提供者提供合法的用途说明；
（三）依法依约核验深度合成应用程序的安全性。

第三章 数据和技术管理规范

第十四条

深度合成服务提供者和技术支持者应当加强训练数据管理，采取必要措施保障训练数据安全；训练数据包含个人信息的，应当依法取得个人信息同意。

第十五条

深度合成服务提供者和技术支持者应当加强技术管理，定期审核、评估、验证生成合成类算法机制机理。

第十六条

深度合成服务提供者和技术支持者提供具有以下功能的模型、模板等工具的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识：
（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑；
（二）人脸生成、人脸替换、人脸操控等编辑生物特征；
（三）人脸操纵、人物姿态操纵等编辑生物特征；
（四）沉浸式拟真场景等生成或者编辑非生物特征。

第十七条

深度合成服务提供者提供以下深度合成服务的，应当使用显著方式对生成或者编辑的信息内容进行标识：
（一）智能对话、智能写作等模拟自然人进行文本的生成或者编辑；
（二）人脸生成、人脸替换、人脸操控等编辑生物特征；
（三）人脸操纵、人物姿态操纵等编辑生物特征；
（四）沉浸式拟真场景等生成或者编辑非生物特征。

第十八条

任何组织和个人不得采用技术手段删除、篡改、隐匿本规定第十六条和第十七条规定的深度合成标识。

第四章 监督检查

第十九条

深度合成服务提供者应当按照《互联网信息服务算法推荐管理规定》规定的时限和要求，通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息，履行备案手续。

第二十条

深度合成服务提供者开发上线具有舆论属性或者社会动员能力的新产品、新应用、新功能的，应当按照国家有关规定开展安全评估。

第二十一条

深度合成服务提供者和技术支持者应当依法配合网信部门和有关主管部门开展的监督检查，并提供必要的技术、数据等支持和协助。

第五章 法律责任

第二十二条

深度合成服务提供者和技术支持者违反本规定第六条、第七条、第八条、第九条、第十条、第十一条、第十二条、第十三条、第十四条、第十五条、第十六条、第十七条、第十八条、第十九条、第二十条、第二十一条规定，法律、行政法规有规定的，依照其规定处罚；法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处一万元以上十万元以下罚款。

第二十三条

深度合成服务提供者和技术支持者违反本规定第五条规定，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停信息更新，并处五万元以上五十万元以下罚款。

第六章 附则

第二十四条

本规定自2023年1月10日起施行。