LLM时代合规：AI平台的新型监管框架 (ZH)

五年前，AI公司的合规义务可以写在一页纸上。一份隐私政策、一份服务条款，也许还有一个Cookie横幅，如果你谨慎的话，还有一个GDPR数据处理协议。仅此而已。AI被视为软件，而软件的监管相对宽松。

2026年4月，那个时代将不复存在。

今天推出的AI平台需要遵守一系列相互重叠的监管框架，包括欧盟AI法案、数字服务法案、GDPR、特定行业的法规（金融、医疗、教育）、出口管制、年龄验证要求、内容溯源要求，以及——日益增长的——针对谁可以访问模型以及如何使用模型的明确的KYC/AML式义务。Anthropic最近在Claude上推出护照和自拍验证，是这种转变的一个明显迹象。这不会是最后一次。

本文梳理了AI公司现在需要遵守的合规框架，解释了过去18个月发生了哪些变化，并提出了构建产品的实用架构，该架构可以在不损害开发者体验的情况下通过监管审查。

发生了什么变化

在2024年末至2026年初期间，大约同时发生了四件事。

首先，监管机构赶上了进度。 欧盟AI法案于2024年8月开始分阶段生效，通用AI模型义务于2025年8月生效，高风险系统义务于2026年8月生效。英国设立了AI安全研究所，并建立了正式的测试协议。美国发布了关于AI的行政命令，设定了大型训练运行的报告门槛。巴西、日本、韩国、新加坡和阿联酋都发布了AI框架。中国早在2023年就要求对生成式AI进行身份验证。

其次，AI平台变得具有系统重要性。 Claude、ChatGPT、Gemini和Grok现在已经融入到数千万企业员工和数亿消费者的工作流程中。这种规模触发了欧盟《数字服务法案》对“大型在线平台”的义务，各司法管辖区的消费者保护制度，以及“如果它崩溃，它会造成巨大破坏”的普遍影响。

第三，滥用途径日益成熟。 深度伪造欺诈、语音克隆、自动化网络钓鱼、合成身份创建、模型提炼、版权提取、CSAM生成、代理人诈骗——所有这些都从概念验证发展到工业化运营。每个监管机构现在都有一个真实事件清单，可以在制定规则时引用。

第四，行业已经没有借口了。 在2023年和2024年的大部分时间里，AI公司成功地辩称，自我监管和自愿承诺就足够了。到2026年，随着工业规模提炼的明确证据、深度伪造欺诈造成的损失达到数十亿美元，以及AI聊天机器人卷入青少年自杀和冒充诈骗案件，这种论点不再成立。

因此，AI合规不再是产品层面的事后考虑。它是一个架构问题，与可扩展性和安全性同等重要。

2026年的监管框架

在主要市场运营的AI平台现在必须同时处理以下层级。

欧盟AI法案

第一部全面生效的AI法律。按类别划分的主要义务：

• 通用AI (GPAI) 模型： 透明度文档、训练数据摘要、版权政策、技术文档可供下游部署者使用。系统性风险模型（训练数据超过10^25 FLOP阈值）面临额外的义务：系统性风险评估、红队测试、严重事件报告、网络安全保护。
• 高风险AI系统： 风险管理系统、数据治理、技术文档、记录保存、人工监督、准确性和稳健性要求、上市后监控。适用于就业、信贷、保险、教育、关键基础设施、执法等领域的AI。
• 有限风险AI（聊天机器人、深度伪造）： 透明度义务——用户必须知道他们正在与AI互动，合成内容必须标记。
• 禁止使用的AI： 社会评分、公共场所中的实时生物识别识别（例外情况除外）、工作场所/教育中的情绪识别、仅基于画像的预测性警务、未经目标的面部识别抓取。

违规处罚最高可达全球年营业额的7%（禁止使用的AI），其他违规行为3%。

数字服务法案 (DSA)

适用于为欧盟用户提供服务的任何在线平台。规模较大的AI聊天机器人将触发“大型在线平台”(VLOP)义务：系统性风险评估、独立审计、透明度报告、研究人员数据访问、内容审核义务、危机应对机制。最高处罚：全球营业额的6%。

GDPR

仍然是任何接触欧盟个人数据的AI产品的基础隐私制度。与AI相关的压力点：

• 训练数据的法律依据。 从公共网络内容中抓取数据进行模型训练，在多个欧盟司法管辖区正在积极诉讼中。
• 被遗忘权。 如何“删除”一个人从训练好的模型中？对此的积极执行仍在出现中。
• 自动化决策（第22条）。 当AI输出对个人产生重大影响时触发。需要人工审查选项。
• 数据最小化。 很难与基于大型数据集进行基础模型训练相协调。

欧洲数据保护委员会 (EDPB) 于2024年12月发布了一份意见，阐明了一些内容，但成员国之间的执行情况不一且仍在进行中。

特定行业的法规

在受监管行业中使用的AI会自动获得行业义务：

• 金融： MiFID II、PSD2/PSD3、EBA关于信贷评分中AI的指南、FINRA AI指南、CFPB关于算法歧视的通告
• 医疗： 诊断AI的MDR（欧盟医疗器械法规）、美国的HIPAA和FDA指南
• 教育： 学生数据保护法（美国的FERPA、州级法律）
• 就业： 纽约市地方法144、欧盟AI法案中关于招聘工具的高风险类别、EEOC关于算法歧视的指南
• 保险： NAIC关于AI的模型公告、州级法规

允许企业客户将其部署到这些行业中的任何行业的AI平台承担一部分义务。

出口管制

AI是双重用途的。自2022年以来，美国已对某些先进GPU进行出口管制，将对特定能力阈值下的模型权重进行管制扩展，并对特定外国参与者的美国AI技术访问进行实体清单限制。欧盟对包括AI在内的双重用途商品实行出口管制，根据欧盟双重用途法规。这体现在您能够向谁销售API访问权限、哪些客户通过制裁审查以及哪些模型可以在哪些司法管辖区部署。

KYC、AML和访问控制

堆栈中的最新补充，也是大多数AI公司准备不足的一个。驱动因素：

• 前沿实验室自身的负责任扩展策略（ASL-3及以上需要KYC）
• 蒸馏攻击防御（参见Anthropic 2026年2月披露）
• 出口管制筛选（需要已识别的客户）
• 滥用预防（CSAM、武器升级、欺诈）
• 监管趋同于金融科技（AI基础设施越来越被视为金融基础设施）

实际结果是，AI平台正在构建KYC程序——身份验证、制裁筛选、受益所有权检查、可疑活动监控——这些程序与金融科技和加密货币交易所已经运行的程序非常相似。

年龄验证

正在主要市场快速强制执行。英国《在线安全法案》、欧盟成员国实施的内容分级、美国州级法律（犹他州、路易斯安那州、德克萨斯州等）和平台级政策（如Apple的App Store要求）都朝着同一个方向推动：具有成人内容、金融服务、令人上瘾的设计元素或对未成年人构成重大风险的产品必须验证年龄。

对于AI聊天机器人，这表现为对某些功能的年龄分级访问、对未成年人互动的保护，以及——在某些司法管辖区——禁止在未成年人面前使用某些模型行为。

内容溯源和水印

欧盟AI法案要求对合成内容进行标记。美国关于AI的行政命令要求NIST开发内容身份验证标准。C2PA（内容溯源和真实性联盟）规范正在成为事实上的行业标准。生成图像、音频和视频的AI平台预计将在输出中嵌入加密的溯源信号。

有效的合规架构

如果您要在2026年构建AI产品，上述合规堆栈可能会让人望而却步。它不必如此。核心洞察：AI合规是一个架构问题，而不是策略问题。 书面的策略、隐私声明和DPA是必要的，但远远不够。控制必须内置到产品中。

以下是现代AI平台的最低架构要求。

身份和访问层

每个用户、每个会话、每个API调用都通过一个了解以下内容的层级：

• 用户的身份（验证层级）
• 他们所在的位置（司法管辖区）
• 他们拥有的访问层级（免费、付费、企业、功能分级）
• 他们的风险状况如何（行为、历史、设备）

这是处理KYC、AML筛选、制裁检查、年龄验证和出口管制筛选的同一层级。一次构建，并将其连接到每个产品表面。

技术组件：

• 在升级层级时进行活体检测的文档验证
• 在创建帐户时进行制裁、PEP、不良媒体筛选
• 设备指纹识别和行为监控进行持续风险评分
• 持续监控，并触发重新验证

Didit是专门为此形状构建的提供商——按检查付费，全球覆盖，快速验证，AI原生API。

内容安全层

输入过滤、输出过滤、滥用检测、CSAM扫描、版权保护和内容溯源信号。这是模型安全与监管义务相遇的地方。具体功能：

• 针对滥用类别的提示分类（CSAM、武器升级、欺诈、自残）
• 与相同类别匹配的输出分类
• 与已知恶意内容（NCMEC、版权数据库）的哈希匹配
• 生成媒体的水印和C2PA溯源
• 针对已知越狱的回归测试套件

审计和报告层

监管机构越来越需要结构化报告。从第一天开始构建支持它的审计日志基础设施：

• 所有具有重大影响的决策都记录了输入、输出、模型版本、提示和用户层级
• 事件报告管道连接到内部升级和外部监管申报
• 透明度报告生成（汇总、匿名化指标，关于标记、禁止、拒绝）
• 用于DSA式数据访问请求的研究访问基础设施
• 为特定合规框架准备的即时可用证据包（欧盟AI法案技术文档、ISO 42001、SOC 2）

司法管辖区路由

不同的规则适用于不同的地方。单个代码库必须处理：

• 欧盟用户受GDPR、欧盟AI法案、DSA约束
• 英国用户受英国GDPR、在线安全法案、英国AI法规约束
• 美国用户受州级拼凑约束（加州CCPA/CPRA、犹他州AI法、科罗拉多州AI法、纽约市地方法144）
• 巴西用户受LGPD和即将出台的AI法律约束
• 中国用户受CAC生成式AI规则约束

合规层级路由请求、执行司法管辖区约束并处理数据驻留。对于全球平台来说，这不是可选的。

模型治理层

特别是对于前沿实验室，但越来越多的公司构建在模型之上：

• 模型卡，包含训练数据溯源、评估结果、已知局限性
• 系统性风险模型的红队报告
• 模型行为故障的事件响应
• 受监管环境中部署的模型版本控制
• 下游部署者文档（欧盟AI法案透明度义务通过供应链流动）

常见错误以及如何避免它们

将合规视为策略文档

最昂贵的错误。一份写得漂亮的隐私声明，如果产品没有执行其中描述的规则，就没有用。将执行内置到架构中，然后在策略中描述它——而不是相反。

假设自我证明就足够了

您的服务条款中“用户必须年满18岁”不能满足年龄验证要求。“用户不得将我们的产品用于非法目的”不能满足CSAM预防义务。您需要验证，而不是证明。

等待监管明确化

法规不会变得不那么严格。每一轮澄清都收紧了义务，而不是放松了它们。为2025年欧盟AI法案做准备意味着已经落后于2026年的高风险条款。为更严格的解释做好准备。

自行持有生物识别和身份数据

这是一项专业且受监管的托管业务。如果您不是KYC供应商，请不要意外成为KYC供应商。使用专用提供商（Persona、Onfido、Didit）来处理身份数据，并站在数据控制者/处理者线的一侧。

将安全和合规视为相互独立的实体

它们是同一功能，只是受众不同。您的红队计划是欧盟AI法案系统性风险文档的一部分。您的CSAM分类器是DSA义务的一部分。您的制裁筛选是出口管制姿态的一部分。整合治理是高效的。孤立治理保证了差距。

低估企业销售的合规成本

企业客户会要求提供证据——SOC 2 Type II、ISO 27001、ISO 42001（AI特定）、数据处理协议、子处理器列表、司法管辖区数据驻留证明。第一年不构建这些，第二年就会损失数月的企业交易。

2026年的良好状态

在2026年构建一个良好架构的AI平台至少具有：

• 基于风险的身份验证，与每个层级和功能边界相关
• 制裁和出口管制筛选，在创建帐户时和定期进行
• 年龄验证，在未成年人面临重大风险的任何表面
• 内容安全基础设施——输入过滤、输出过滤、CSAM扫描、水印
• 审计日志和透明度报告，能够为监管申报提供支持，而无需进行艰苦的工程建设
• 意识到的司法管辖区路由和数据驻留控制
• 安全和治理职能，向领导层报告，与产品和工程集成，而不是附加
• 文档化的模型治理——卡片、评估、红队报告、事件响应
• 对每个模型、工具和数据提供商的供应商尽职调查
• 主动监控滥用模式——提炼、欺诈、抓取、冒充

这是一项重大的工程投资。对于任何希望在受监管市场中扩展的AI公司来说，这是不可谈判的。

合规堆栈是产品

AI构建者的本能是将合规视为开销——支付以交付“真实”产品的税款。在2026年，这种框架是错误的。合规堆栈越来越成为产品的一部分。企业客户根据合规姿态选择供应商。监管机构根据合规证据来控制对市场的访问。用户信任展示其工作流程的平台。

在未来五年内获胜的AI公司将是那些将合规堆栈视为基础设施公司对待正常运行时间的公司——具有匹配的投资、工具和领导力关注。

Anthropic在Claude上悄然推出护照和自拍验证不是一个异常现象。这是一个预览。每个主要的AI平台最终都会到达相同的位置，无论是通过自愿采用还是监管强制。那些首先到达并做得好的公司将获得持久的优势。那些等待的公司将在十年代的后半段在压力下进行改造。

合规不是AI创新的敌人。不受控制的滥用、不透明的模型和监管不确定性才是。构建上述堆栈是行业赢得继续构建下一代能力的方式。

---

Didit为AI原生产品构建身份验证、AML筛选和合规基础设施。220多个国家/地区，14,000多种文档类型，每次验证0.30美元，无最低要求。立即免费开始或联系团队。