欧盟人工智能法案

第一章 总则

第一条 主题与范围

本条例制定关于人工智能系统投放市场、投入服务和使用的统一法律框架，确保人工智能系统的安全并保护基本权利。

第二条 适用范围

本条例适用于：
（一）在欧盟境内投放市场或投入服务的人工智能系统的提供者；
（二）在欧盟境内使用人工智能系统的部署者；
（三）在欧盟境外设立、但人工智能系统在欧盟境内使用的提供者和部署者；
（四）人工智能系统的进口者和分销者；
（五）以自己的名称或商标将人工智能系统投放市场或投入服务的产品制造商。

第三条 定义

在本条例中，适用以下定义：
（一）"人工智能系统"是指一种基于机器的系统，其设计目的是以不同程度的自主性运行，在部署后可能表现出适应性，并且为了明确或隐含的目标，从其接收的输入中推断如何生成输出，如预测、内容、建议或决策等；
（二）"提供者"是指开发人工智能系统或委托他人开发人工智能系统，并以自己的名称或商标将其投放市场或投入服务的自然人或法人；
（三）"部署者"是指在人工智能系统下使用授权下使用该系统的自然人或法人。

第二章 禁止的人工智能实践

第四条 禁止的人工智能实践

以下人工智能实践应被禁止：
（一）从人类行为中推断敏感特征的潜意识技术；
（二）对特定弱势群体进行操纵或利用其脆弱性的系统；
（三）根据社会行为或个性特征对自然人进行社会评分的系统；
（四）用于实时远程生物识别的"实时"远程生物识别系统，在公共场所用于执法目的，但本条例规定的特定情况除外；
（五）对自然人进行分类，以推断或预测其种族、政治观点、工会成员身份、宗教或哲学信仰、性生活或性取向的生物特征分类系统。

第三章 高风险人工智能系统

第五条 高风险人工智能系统的分类规则

如果人工智能系统属于本条例附件三所列领域之一，并用于附件中列明的用途，则应被视为高风险人工智能系统。

第六条 高风险人工智能系统的要求

高风险人工智能系统应符合以下要求：
（一）建立风险管理系统；
（二）实施数据治理措施；
（三）制定技术文档；
（四）保存记录；
（五）向部署者提供适当的信息；
（六）设计适当的人类监督措施；
（七）确保适当的准确性、稳健性和网络安全水平。

第七条 提供者的义务

高风险人工智能系统的提供者应：
（一）确保其系统符合本条例第六条规定的要求；
（二）建立质量管理体系；
（三）在系统投放市场或投入服务前进行合格评定；
（四）起草欧盟合格声明；
（五）加贴CE标志；
（六）在系统投放市场或投入服务后进行上市后监测。

第八条 部署者的义务

高风险人工智能系统的部署者应：
（一）在使用系统前进行基本权利影响评估；
（二）确保使用系统的人员具备必要的能力；
（三）确保系统按照提供者提供的使用说明使用；
（四）监督系统的运行；
（五）保留系统生成的日志。

第四章 有限风险人工智能系统

第九条 透明度义务

提供者应确保自然人被告知其正在与人工智能系统进行交互，但系统用于辅助司法决定的情况除外。

第十条 生成或操纵内容

生成或操纵图像、音频或视频内容的提供者应确保以机器可读的方式检测并标记内容的人工智能生成或操纵性质。

第五章 通用人工智能模型

第十一条 通用人工智能模型的提供者义务

通用人工智能模型的提供者应：
（一）在将模型投放市场前制定并保持最新的技术文档；
（二）向打算将该模型纳入其人工智能系统的提供者提供信息和文档；
（三）制定尊重版权法的政策；
（四）公布用于训练模型的文本和数据受版权法保护内容的详细摘要。

第十二条 具有系统性风险的通用人工智能模型

如果通用人工智能模型用于高影响能力的训练计算超过10^25 FLOPS，则视为具有系统性风险。此类模型的提供者应：
（一）进行模型评估；
（二）进行对抗性测试；
（三）评估和减轻可能的系统性风险；
（四）确保适当的网络安全保护。

第六章 监管架构

第十三条 国家主管机关

各成员国应指定一个或多个国家主管机关负责本条例的实施和执行。

第十四条 欧洲人工智能办公室

欧盟委员会应设立欧洲人工智能办公室，负责：
（一）协调成员国主管机关的活动；
（二）为通用人工智能模型制定指导方针；
（三）协助标准制定组织；
（四）促进本条例的一致适用。

第七章 处罚

第十五条 罚款

（一）违反第四条禁止的人工智能实践，应处以最高3500万欧元或上一财政年度全球年营业额7%的罚款，以较高者为准；
（二）违反第六条和第七条规定，应处以最高1500万欧元或上一财政年度全球年营业额3%的罚款，以较高者为准；
（三）提供不正确、不完整或误导性信息，应处以最高750万欧元或上一财政年度全球年营业额1%的罚款，以较高者为准。

第八章 生效与适用

第十六条 生效与适用

本条例自2024年8月1日起生效，并按以下时间表适用：
（一）禁止的人工智能实践：2025年2月2日起适用；
（二）通用人工智能模型义务：2025年8月2日起适用；
（三）高风险人工智能系统（附件三所列）：2026年8月2日起适用；
（四）本条例全文：2027年8月2日起适用。