欧盟AI法案生效：深度伪造的监管重心在于工具而非欺诈行为本身

欧盟《人工智能法案》第50条将于2026年8月2日起生效。生成系统提供商必须以机器可读的方式标记其输出；任何部署深度伪造内容的人都必须声明。欺诈者利用深度伪造攻击银行时会忽视这两项义务，而法规在制定时已考虑到这一点。

简要版本

• 法规 (EU) 2024/1689，即《人工智能法案》，将于2026年8月2日起生效。第50条要求生成音频、图像、视频或文本的人工智能系统以机器可读格式标记其输出，以便能够检测其为人工智能生成。
• 任何部署深度伪造内容的人都必须披露该内容是人工生成的。第3(60)条将深度伪造定义为模仿真实人物、地点或事件，并且“会使人误以为真实或可信”的人工智能内容。
• 违反第50条将面临最高1500万欧元或全球年度营业额3%的罚款（以较高者为准）。在8月2日之前已上市的系统，有宽限期至2026年12月2日以履行标记义务。
• 同一法案的高风险清单明确排除了1:1生物识别验证，即确认个人身份的检查。攻击身份验证的工具受到监管；而验证本身则不受干预。

深度伪造已成为监管机构欺诈评估的常设条目

2026年7月30日，英国博彩委员会发布了一份风险评估，其中将深度伪造视频和换脸技术列为通过身份验证的方法之一，并将其身份证明文件风险评为最高等级。深度伪造是人工智能生成的视频、音频或图像，能够令人信服地模仿真实人物。

这项评估是更广泛模式的一个例证。旨在将面部与文件进行比较的检查，其前提是摄像头前的人脸属于一个活生生的人。生成模型打破了这一假设，而且成本低廉：制作电影特效的工具可以生成合成客户，而检查仅凭肉眼无法分辨。

欧盟的解决方案包含在其通用人工智能法中，而非欺诈法规。法规 (EU) 2024/1689，即《人工智能法案》，是主要监管机构出台的第一部综合性人工智能法律。其大部分重点放在高风险系统上：医疗设备、招聘工具、信用评分。它还包括一套透明度义务，即第50条，旨在针对每个人现在都在使用的普通生成工具。这些义务自2026年8月2日起适用。

值得注意的设计选择是义务的归属。该法案并未禁止深度伪造。它要求工具标记其生成的内容，并要求使用者披露其部署的内容。欧盟委员会声明的原因是知情权，由负责的委员在2026年6月10日支持行为准则发布时记录在案。

欧洲人有权知道他们看到、听到或阅读的内容是否由人工智能生成或修改，尤其是在此类内容可能影响公共辩论的情况下。透明度是我们保护信任的方式。

Henna Virkkunen，欧盟委员会技术主权、安全与民主执行副主席。2026年6月10日声明

第50条分工明确：提供商标记，部署者披露

法规 (EU) 2024/1689 第50条对两个不同的主体施加了两项主要义务。提供商（即构建或提供生成式人工智能系统的公司）必须确保其输出“以机器可读的格式进行标记，并可检测为人工智能生成或操控”。部署者（即使用该系统的人）必须将深度伪造内容披露为人工生成。

提供商的义务是基础设施层面的。标记必须内置于系统本身，该法案要求技术解决方案“在技术可行的情况下，应有效、可互操作、稳健和可靠”。“机器可读”是核心短语：标记是为软件设计的，以便其他系统无需人工费力辨认即可检测到合成内容。该法案并未规定具体技术。水印和溯源元数据是行业标准工作中已达成共识的两个候选方案。

部署者的义务是可见的。任何发布深度伪造内容的人都必须声明该内容是人工生成的，“最迟在首次互动或暴露时”。另有两项义务构成完整集合。与人交流的系统（如聊天机器人）必须表明自己是人工智能，除非这一点显而易见；对人进行情感识别或生物识别分类的公司必须告知受影响者。

每项义务都有例外，值得仔细阅读。如果人工智能执行“标准编辑的辅助功能”，则无需标记，因此照片修饰不属于深度伪造。法律授权用于检测或调查犯罪的用途全面豁免。艺术作品受到特殊对待：如果深度伪造是“明显具有艺术性、创造性、讽刺性、虚构性或类似性质”作品的一部分，则披露只需以“不妨碍作品展示或欣赏”的方式进行。关于公共利益的人工智能生成文本必须披露，除非经过人工编辑审核且有人承担编辑责任。

不遵守规定的代价在第99(4)条中规定：罚款最高可达1500万欧元或全球年度总营业额的3%，以较高者为准。这是该法案的中等罚款级别，低于保留给禁止行为的3500万欧元和7%级别，高于提供误导性信息的1%级别。执法由国家市场监督机构负责，这些机构是执行产品规则的成员国机构。

该法案分阶段生效，2026年8月2日是主要阶段

法规 (EU) 2024/1689 第113条规定了法律的错时生效。禁止的人工智能行为禁令已于2025年2月2日起适用；通用人工智能模型的义务自2025年8月2日起适用。整个法规，包括第50条，将于2026年8月2日起适用。一类高风险义务将于2027年8月2日生效。

关于标记义务有一个过渡性事项。根据欧盟委员会的指导，在2026年8月2日之前已投放市场的生成系统，有宽限期至2026年12月2日以满足机器可读标记要求，2026年8月2日之前生成的内容无需追溯标记。部署者的披露义务没有此类宽限期。它们自8月2日起生效。

支持性文本在截止日期前发布。委员会于2026年6月10日发布了自愿性的人工智能生成内容标记和标签行为准则；签署该准则是一种证明合规性的方式，尽管“其他同等充分的替代方式”仍然开放。委员会澄清范围并提供实际案例的指南随附发布。

日期	规则	状态
2024年8月1日	《人工智能法案》生效 — 法规 (EU) 2024/1689，于2024年7月12日在《官方公报》上发布，自发布后第20天生效。	已通过
2025年2月2日	禁止行为生效 — 第一章和第二章适用：社会评分、某些操纵和抓取行为。	已通过
2025年8月2日	通用人工智能模型义务 — 第五章适用于自此日期起投放市场的通用模型提供商。	已通过
2026年6月10日	行为准则发布 — 人工智能生成内容标记和标签自愿准则；委员会新闻稿 IP/26/1328。	已通过
2026年8月2日	第50条适用 — 整个法规适用。标记、深度伪造披露、聊天机器人识别和情感识别通知义务生效。罚款最高1500万欧元或3%。	已生效
2026年12月2日	标记宽限期结束 — 根据委员会指导，2026年8月2日之前投放市场的系统必须满足机器可读标记义务。	待生效
2027年8月2日	第6(1)条高风险义务适用 — 最后一批：现有欧盟安全立法下的产品高风险分类。	待生效

同一法案拒绝将身份验证列为高风险

法规 (EU) 2024/1689 附件三将远程生物识别列为高风险人工智能用途，然后划定了界限。该清单“不应包括旨在用于生物识别验证的人工智能系统，其唯一目的是确认特定自然人是否为其声称的身份”。1:1身份验证不在高风险清单之列。

起草者所作的区分是搜索与确认。远程生物识别系统通过比对数据库扫描人脸以确定某人身份，通常无需其参与。这属于高风险，并伴随完整的合格评定机制。生物识别验证回答了一个更窄的问题：此人是否是此护照、此账户、此声明所属的人？此人出示身份并声明身份；系统确认或拒绝。这不在该条目范围内。

这条界限是范围线，而非法律豁免。验证提供商在适用范围内仍须遵守法案的其他规定、数据保护法以及其所服务每个客户的行业规则。此外，该法案将两种相关用途明确保留在高风险清单中：情感识别和基于敏感属性的生物识别分类，这两种用途在部署时也需履行第50条的披露义务。

结合标签义务来看，该法案对身份验证的界定是对称的。能够伪造人脸的生成工具必须标记其输出。确认人脸的验证工具则被排除在高风险清单之外，以便其正常工作。该法案认为，深度伪造攻击的文件和读取该文件的验证工具，两者都是值得保持清晰的基础设施。欧洲另一部新身份规则手册从相反方向得出了相同的结论：反洗钱法规接受文件或电子身份作为验证的替代途径，并且不对其进行排名。

标签义务约束合规者，这是它带来的悬而未决的问题

自2026年8月2日起生效的第50条，并不能阻止欺诈者生成深度伪造内容。利用合成视频欺诈银行的人已经触犯法律，也不会遵守标签义务。该规则建立的是溯源基础设施，由绝大多数合规工具承担。

监管机构以前也使用过这种结构：将义务置于能够实际获得合规的地方，这样，预期信号的缺失就变得具有信息价值。如果主流生成系统以机器可读的方式标记其输出，那么未标记的合成内容就会成为异常，接收端软件就有东西可以检测。博彩委员会对身份验证双方的人工智能评估描述了攻击方；第50条是首次尝试让攻击方自行声明。

对于合规或欺诈团队而言，其后果是具体但目前而言是适度的。这些标记是为机器设计的，因此一旦标准工作确定，验证流程将获得一个新的可读取信号；行为准则正是这种趋同发生的地方。自8月2日起，在客户沟通中部署生成式人工智能的公司需承担自身的披露义务。身份验证本身则一如既往地正常工作，因为标签制度假定最重要的攻击者不会进行标记。

其下的比例原则问题是一个以新面貌出现的长期问题。该义务落在欧盟所有合规的提供商和部署者身上；而危害则由那些会忽视该义务的行为者造成。溯源基础设施是否能证明这种努力分配的合理性，是该法案自身豁免条款承认但未解决的问题，而根据第99(4)条作出的首次执法决定将显示国家当局如何权衡。目前尚无此类决定。该规则生效仅八天。

关键要点

义务已生效。

法规 (EU) 2024/1689 第50条自2026年8月2日起适用：提供商需进行机器可读标记，部署者需披露深度伪造内容，聊天机器人需进行身份识别，情感识别需进行通知。

存在一个宽限期。

根据委员会指导，2026年8月2日之前上市的系统有宽限期至2026年12月2日以满足标记义务。披露义务没有宽限期。

罚款上限为1500万欧元或3%。

第99(4)条规定透明度违规的最高罚款为1500万欧元或全球营业额的3%（以较高者为准），由国家市场监督机构执行。

验证不在高风险清单之列。

附件三将1:1生物识别验证（即确认所声明身份的检查）排除在远程生物识别识别条目之外。情感识别仍在清单之列。

该规则构建的是信号，而非屏障。

欺诈者不会标记他们的深度伪造内容。其价值（如果存在的话）在于，标记的主流输出使得未标记的内容在检查机器面前显得异常。

Didit 的作用：深度伪造压力下的身份验证

第50条的义务落在生成式人工智能系统的提供商和部署者身上。运行KYC（了解您的客户）检查是不同的角色，购买验证并不能使任何人遵守《人工智能法案》。如果您的公司在客户沟通中部署生成工具，则上述披露义务是您需要履行的。验证流程解决的是本文描述问题的另一方面：合成客户在入职时出现。

模块与攻击相对应。被动活体检测每次检查0.10美元，用于测试摄像头前是活生生的人，而不是重放或生成的视频。人脸比对 (1:1)每次检查0.05美元，正是附件三所描述的确认：它将实时捕捉与文件照片进行比较，以确认此人是否为其声称的身份。身份验证每次检查0.15美元，用于读取和验证文件本身；如果文件带有芯片，NFC读取每次检查0.15美元，可提取屏幕上无法提供的加密签名数据。当前价格可在定价页面查看。

您仍需面对该法案刻意保留的判断。您的风险评估决定客户将看到哪些检查，您的流程决定当检查失败时会发生什么。目前还没有任何供应商的模块能读取第50条的机器可读标记，因为技术标准仍在趋同。当它们确定后，标记内容将成为流程可以测试的又一个信号。在此之前，活体检测和芯片数据是有效的防御措施。

常见问题

欧盟《人工智能法案》的深度伪造标签规则何时生效？

2026年8月2日。法规 (EU) 2024/1689 第113条规定该法规自该日起适用，第50条的透明度义务也随之适用。存在一个过渡期：根据欧盟委员会的指导，在2026年8月2日之前投放市场的系统有宽限期至2026年12月2日以满足机器可读标记义务。

《人工智能法案》如何定义深度伪造？

法规 (EU) 2024/1689 第3(60)条将深度伪造定义为“人工智能生成或操控的图像、音频或视频内容，其模仿现有的人物、物体、地点、实体或事件，并会使人误以为真实或可信”。

违反《人工智能法案》第50条会受到什么处罚？

根据法规 (EU) 2024/1689 第99(4)条，不遵守第50条透明度义务将面临最高1500万欧元的行政罚款，或者对于企业而言，最高为上一财政年度全球年度总营业额的3%，以较高者为准。

《人工智能法案》是否将身份验证视为高风险人工智能？

不是一对一验证。附件三将远程生物识别识别系统列为高风险，但声明“不应包括旨在用于生物识别验证的人工智能系统，其唯一目的是确认特定自然人是否为其声称的身份”。情感识别系统仍在高风险清单上。

人工智能内容标签行为准则是否强制性？

否。欧盟委员会于2026年6月10日发布了人工智能生成内容标记和标签行为准则，作为自愿性工具。签署该准则是一种证明符合第50条标记和标签义务的方式；提供商也可以使用其他同等充分的替代方式。

相关阅读

• 人工智能现已应用于博彩身份验证的两端 — 英国监管机构7月30日的风险评估提到了此标签规则旨在针对的深度伪造。
• 欧盟法律允许五年后才重新核查客户所有权 — 欧盟的另一项身份识别工具，以相同的分阶段日期模式起草。
• 亚洲正在将薄弱身份验证的成本转嫁给银行和平台 — 随着深度伪造超越文件检查，日本正在淘汰照片上传验证。
• 反洗钱法规第26条：您需要多久重新检查一次？ — 同一代法规手册中，欧盟对入职后检查的期望。

来源

1. 关于人工智能统一规则的法规 (EU) 2024/1689 — 欧洲议会和理事会 · EUR-Lex · 第3(60)、50、99、113条和附件三 · 自2026年8月2日起适用
2. 委员会发布人工智能生成内容标记和标签行为准则 — 欧盟委员会新闻稿 IP/26/1328 · 2026年6月10日 · Virkkunen声明的来源
3. 关于某些人工智能系统提供商和部署者透明度义务的指南 — 欧盟委员会 · 政策页面于2026年8月6日更新
4. 《人工智能法案》第50条下的透明度义务 — 欧盟委员会常见问题解答 · 2026年12月2日过渡期和执法分配的来源
5. 人工智能生成内容透明度行为准则 — 欧盟委员会 · 标记和标签义务的自愿合规途径

作者

阮端 (Tuan Nguyen) — 增长 · Didit

在Didit撰写关于身份验证、欺诈和合规性的文章。

最后于2026年8月10日根据上述来源进行审查