生成式人工智能服务管理暂行办法

第一章 总则

第一条

为促进生成式人工智能健康发展和规范应用，防范生成式人工智能服务风险，根据《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。

第二条

利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务（以下称生成式人工智能服务），适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的，从其规定。

行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，不向公众提供服务的，不适用本办法规定。

第三条

国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。

第四条

提供生成式人工智能服务应当遵守法律、行政法规，尊重社会公德和伦理道德，坚持以下原则：
（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及法律、行政法规禁止的其他内容；
（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；
（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；
（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；
（五）采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

第二章 技术发展与治理

第五条

鼓励生成式人工智能技术在各行业、各领域的创新应用，支持行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等在生成式人工智能技术创新、数据资源建设、转化应用、风险防范等方面开展协作。

第六条

鼓励生成式人工智能算法、框架、芯片、配套软件、基础网络等关键技术的自主创新，平等互利开展国际交流与合作，参与生成式人工智能相关国际规则制定。

第七条

生成式人工智能服务提供者（以下称提供者）应当依法开展预训练、优化训练等训练数据处理活动，遵守以下规定：
（一）使用具有合法来源的数据和基础模型；
（二）涉及知识产权的，不得侵害他人依法享有的知识产权；
（三）涉及个人信息的，应当取得个人同意或者符合法律、行政法规规定的其他情形；
（四）采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性、多样性；
（五）符合《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他要求。

第八条

在生成式人工智能技术研发过程中进行数据标注的，提供者应当制定符合本办法要求的标注规则，对标注人员进行必要培训，抽样核验标注内容的真实性、准确性。

第三章 服务规范

第九条

提供者应当依法备案，履行算法备案手续，并向社会公示。

第十条

提供者应当与注册其服务的生成式人工智能服务使用者（以下称使用者）签订服务协议，明确双方权利义务。服务协议应当包含以下内容：
（一）使用者应当遵守法律、行政法规和本服务协议的约定；
（二）使用者不得利用生成式人工智能服务从事违法犯罪活动；
（三）使用者应当对生成式人工智能服务产生的信息内容承担法律责任。

第十一条

提供者应当明确并公开其服务的适用人群、场合、用途，指导使用者科学理性认识和依法使用生成式人工智能技术，防范使用者过分依赖或沉迷生成内容。

第十二条

提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

第十三条

提供者应当建立公众投诉、举报机制，设置便捷的公众投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。

第四章 监督检查

第十四条

提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施并采取模型优化训练等措施进行整改，并向有关主管部门报告。

第十五条

提供者发现使用者利用生成式人工智能服务从事违法活动的，应当依法依约采取警示、限制功能、暂停或者终止向其提供服务等处置措施，保存有关记录，并向有关主管部门报告。

第十六条

提供者应当按照国家有关规定对生成式人工智能服务使用情况进行统计、分析，保存有关记录，并依法接受主管部门的监督检查。

第十七条

提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。

第五章 法律责任

第十八条

提供者违反本办法规定的，由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国未成年人保护法》、《中华人民共和国科学技术进步法》、《中华人民共和国反不正当竞争法》、《中华人民共和国广告法》等有关法律、行政法规的规定予以处罚；法律、行政法规没有规定的，由有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停提供相关服务。

第十九条

使用者违反本办法规定，由有关主管部门依法予以处罚；构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

第六章 附则

第二十条

本办法自2023年8月15日起施行。