KI-Compliance im LLM-Zeitalter: Der neue Regulierungsrahmen für KI-Plattformen (DE)

Vor fünf Jahren passten die Compliance-Verpflichtungen eines KI-Unternehmens auf eine einzige Seite. Eine Datenschutzerklärung, Nutzungsbedingungen, vielleicht ein Cookie-Banner und – wenn man vorsichtig war – eine DSGVO-Datenverarbeitungsvereinbarung. Das war es. KI wurde als Software behandelt und Software wurde locker behandelt.

In April 2026 ist diese Welt vorbei.

Eine KI-Plattform, die heute auf den Markt kommt, operiert innerhalb eines sich überschneidenden Regulierungsrahmens, der das EU-KI-Gesetz, den Digital Services Act, die DSGVO, branchenspezifische Regeln (Finanzen, Gesundheitswesen, Bildung), Exportkontrollen, Anforderungen zur Altersverifizierung, Anforderungen zur Herkunft von Inhalten und – zunehmend – explizite KYC/AML-ähnliche Verpflichtungen bezüglich des Zugriffs auf Modelle und deren Nutzung umfasst. Der jüngste Rollout der Pass- und Selfie-Verifizierung durch Anthropic bei Claude ist ein sichtbares Symptom dieser Entwicklung. Es wird nicht das letzte sein.

Dieser Beitrag stellt den Compliance-Rahmen dar, innerhalb dessen KI-Unternehmen heute agieren, erläutert, was sich in den letzten 18 Monaten geändert hat, und legt eine praktische Architektur für den Aufbau eines Produkts dar, das regulatorischen Prüfungen standhalten kann, ohne die Entwicklererfahrung zu beeinträchtigen.

Was sich geändert hat

Vier Dinge sind in etwa parallel zwischen Ende 2024 und Anfang 2026 geschehen.

Erstens haben die Regulierungsbehörden aufgeholt. Das EU-KI-Gesetz trat im August 2024 stufenweise in Kraft, wobei die Verpflichtungen für allgemeine KI-Modelle im August 2025 und die Verpflichtungen für Hochrisiko-Systeme im August 2026 in Kraft treten. Das Vereinigte Königreich richtete das AI Safety Institute mit formalen Testvereinbarungen ein. Der US-Executive Order zur KI schuf Berichtsschwellenwerte für große Trainingsdurchläufe. Brasilien, Japan, Südkorea, Singapur und die Vereinigten Arabischen Emirate haben alle KI-Rahmenwerke veröffentlicht. China hatte bereits seit 2023 eine Identitätsprüfung für generative KI vorgeschrieben.

Zweitens sind KI-Plattformen systemrelevant geworden. Claude, ChatGPT, Gemini und Grok sind jetzt in den Arbeitsabläufen von Zehnmillionen Mitarbeitern und Hunderten von Millionen von Verbrauchern integriert. Dieser Umfang löst die Verpflichtungen der „sehr großen Online-Plattform“ (VLOP) im Digital Services Act in der EU, Verbraucherschutzbestimmungen in verschiedenen Rechtsordnungen und die allgemeine Bedeutung von „Wenn es kaputt geht, geht viel kaputt“ aus.

Drittens haben sich die Missbrauchsvektoren verfeinert. Deepfake-Betrug, Voice-Cloning, automatisierter Phishing, synthetische Identitätserstellung, Modelldestillation, Urheberrechtsextraktion, CSAM-Generierung, agenturbasierte Betrügereien – all dies hat sich von Proof-of-Concept zu industriellen Operationen entwickelt. Jede Regulierungsbehörde hat jetzt eine Liste realer Vorfälle, auf die sie sich bei der Formulierung von Regeln beziehen kann.

Viertens hat die Branche keine Ausreden mehr gehabt. Für den größten Teil des Jahres 2023 und 2024 argumentierten KI-Unternehmen erfolgreich, dass Selbstregulierung und freiwillige Verpflichtungen ausreichend sind. Bis 2026 war mit klaren Beweisen für groß angelegte Destillation, Deepfake-Betrug, der jährlich Milliardenverluste verursacht, und KI-Chatbots, die in Teenager-Selbstmorde und Identitätsbetrug verwickelt waren, dieses Argument nicht mehr haltbar.

Das Ergebnis ist, dass KI-Compliance nicht länger ein nachträglicher Aspekt des Produkts ist. Es ist ein architektonisches Problem, das mit Skalierung und Sicherheit vergleichbar ist.

Der Regulierungsrahmen im Jahr 2026

Eine KI-Plattform, die auf größeren Märkten tätig ist, muss jetzt gleichzeitig die folgenden Ebenen verarbeiten:

EU KI-Gesetz

Das erste umfassende KI-Gesetz in Kraft. Wichtige Verpflichtungen nach Kategorie:

• Allgemeine KI-Modelle (GPAI): Transparenzdokumentation, Zusammenfassungen der Trainingsdaten, Urheberrechtspolitik, technische Dokumentation für nachgelagerte Anwender. Modelle mit „systemischem Risiko“ (trainiert über der 10^25 FLOP-Schwelle) unterliegen zusätzlichen Verpflichtungen: Bewertung des systemischen Risikos, Red-Teaming, Meldung schwerwiegender Vorfälle, Cybersicherheitsschutz.
• Hochrisiko-KI-Systeme: Risikomanagementsysteme, Datenverwaltung, technische Dokumentation, Aufzeichnungspflichten, menschliche Aufsicht, Genauigkeits- und Robustheitsanforderungen, Nachmarktüberwachung. Gilt für KI in Beschäftigung, Kredit, Versicherung, Bildung, kritische Infrastruktur, Strafverfolgung und mehr.
• KI mit begrenztem Risiko (Chatbots, Deepfakes): Transparenzpflichten – Benutzer müssen wissen, dass sie mit KI interagieren, und synthetische Inhalte müssen gekennzeichnet sein.
• Verbotene KI: soziale Bewertung, Echtzeit-biometrische Identifizierung im öffentlichen Raum (mit engen Ausnahmen), Erkennung von Emotionen am Arbeitsplatz/in der Bildung, prädiktive Polizeiarbeit ausschließlich auf der Grundlage von Profiling, ungerichtetes Scannen des Gesichts

Die Strafen belaufen sich auf bis zu 7 % des weltweiten Jahresumsatzes für verbotene KI, 3 % für andere Verstöße.

Digital Services Act (DSA)

Gilt für jede Online-Plattform, die EU-Nutzer bedient. KI-Chatbots mit großem Umfang lösen die Verpflichtungen der „sehr großen Online-Plattform“ (VLOP) aus: Bewertungen des systemischen Risikos, unabhängige Audits, Berichterstattung über Transparenz, Datenzugang für Forscher, Verpflichtungen zur Inhaltsmoderation, Mechanismen zur Krisenreaktion. Höchststrafe: 6 % des weltweiten Umsatzes.

DSGVO

Immer noch das grundlegende Datenschutzrecht für jedes KI-Produkt, das EU-Personenbezogene Daten berührt. Relevante KI-spezifische Druckpunkte:

• Rechtsgrundlage für Trainingsdaten. Das Scrapen von öffentlich zugänglichen Webinhalten für das Modelltraining wird vor mehreren EU-Gerichten angefochten.
• Recht auf Löschung. Wie löscht man eine Person aus einem trainierten Modell? Die Durchsetzung dessen ist noch im Entstehen begriffen.
• Automatisierte Entscheidungsfindung (Artikel 22). Tritt auf, wenn KI-Ausgaben sich wesentlich auf Einzelpersonen auswirken. Erfordert Überprüfungsoptionen durch Menschen.
• Datenminimierung. Schwer mit dem Training von Foundation-Modellen auf massiven Datensätzen in Einklang zu bringen.

Der EDPB (Europäischer Datenschutzausschuss) veröffentlichte im Dezember 2024 eine Stellungnahme, die einige davon klärt, aber die Durchsetzung ist in den Mitgliedsstaaten uneinheitlich und aktiv.

Branchenspezifische Regeln

KI, die in regulierten Branchen eingesetzt wird, übernimmt automatisch branchenspezifische Verpflichtungen:

• Finanzen: MiFID II, PSD2/PSD3, Leitlinien der EBA zur KI bei der Kreditwürdigkeitsprüfung, FINRA AI-Leitlinien, CFPB-Hinweise zu algorithmischer Diskriminierung
• Gesundheitswesen: MDR (EU-Verordnung für Medizinprodukte) für diagnostische KI, HIPAA und FDA-Leitlinien in den USA
• Bildung: Gesetze zum Schutz von Schülerdaten (FERPA in den USA, landesrechtliche Gesetze)
• Beschäftigung: NYC Local Law 144, EU KI-Gesetz Hochrisiko-Kategorie für Einstellungstools, EEOC-Leitlinien zu algorithmischer Diskriminierung
• Versicherung: NAIC-Modellhinweis zur KI, Landesregulierung

Eine KI-Plattform, die es Unternehmenskunden ermöglicht, in einem dieser Bereiche einzusetzen, übernimmt einen Teil der Verpflichtung.

Exportkontrollen

KI ist ein dualer Gebrauch. Die USA haben seit 2022 bestimmte fortschrittliche GPUs exportkontrolliert, die Kontrolle auf Modellgewichte über bestimmte Fähigkeitsschwellenwerte ausgeweitet und Einschränkungen auf der Sanktionsliste für den Zugriff auf US-KI-Technologie durch bestimmte ausländische Akteure aufrechterhalten. Die EU hat Exportkontrollen für Güter mit dualem Verwendungszweck, einschließlich KI, gemäß der EU-Verordnung für Güter mit dualem Verwendungszweck. Dies zeigt sich in der Compliance-Verpflichtung, wem Sie API-Zugriff gewähren, welche Kunden eine Sanktionsprüfung bestehen und welche Modelle in welchen Gerichtsbarkeiten eingesetzt werden dürfen.

KYC, AML und Zugriffskontrollen

Die neueste Ergänzung des Stacks, auf die die meisten KI-Unternehmen am wenigsten vorbereitet sind. Treiber:

• Eigene Responsible Scaling Policies von Frontier Labs (ASL-3 und höher erfordern KYC)
• Abwehr von Destillationsangriffen (siehe Offenlegung von Anthropic im Februar 2026)
• Exportkontroll-Screening (erfordert identifizierte Kunden)
• Missbrauchsverhinderung (CSAM, Waffenanhebung, Betrug)
• Konvergenz der Regulierung mit Fintech (KI-Infrastruktur wird zunehmend als Finanzinfrastruktur behandelt)

Das praktische Ergebnis ist, dass KI-Plattformen KYC-Programme aufbauen – Identitätsprüfung, Sanktionsprüfung, Überprüfung der Begünstigten, Überwachung verdächtiger Aktivitäten – die denen von Fintechs und Krypto-Börsen sehr ähnlich sind.

Altersverifizierung

Wird in wichtigen Märkten rasch obligatorisch. Das britische Online Safety Act, die Umsetzung von Inhalts-Altersbeschränkungen durch EU-Mitgliedsstaaten, staatliche Gesetze in den USA (Utah, Louisiana, Texas und andere) und Plattformrichtlinien wie die Anforderungen des Apple App Stores bewegen sich alle in die gleiche Richtung: Produkte mit Inhalten für Erwachsene, Finanzdienstleistungen, süchtig machendem Design oder erheblichem Risiko für Minderjährige müssen das Alter überprüfen.

Für KI-Chatbots manifestiert sich dies als altersbeschränkter Zugriff auf bestimmte Funktionen, Schutz von Interaktionen mit Minderjährigen und – in einigen Gerichtsbarkeiten – Verbote bestimmter Modellverhalten in Gegenwart von minderjährigen Benutzern.

Nachweis der Herkunft und Wasserzeichen für Inhalte

Das EU-KI-Gesetz verlangt, dass synthetische Inhalte gekennzeichnet werden müssen. Der US-Executive Order über KI forderte NIST auf, Standards für die Authentifizierung von Inhalten zu entwickeln. Die C2PA-Spezifikation (Coalition for Content Provenance and Authenticity) wird zu einem de facto Industriestandard. Es wird erwartet, dass KI-Plattformen, die Bilder, Audio und Video generieren, kryptografische Herkunftssignale in die Ausgaben einbetten.

Die Compliance-Architektur, die funktioniert

Wenn Sie im Jahr 2026 ein KI-Produkt entwickeln, kann der oben beschriebene Compliance-Stack lähmend wirken. Das muss er nicht. Der entscheidende Erkenntnis: Compliance für KI ist ein architektonisches Problem, kein politisches Problem. Geschriebene Richtlinien, Datenschutzerklärungen und DPAs sind notwendig, aber bei weitem nicht ausreichend. Die Kontrollen müssen in das Produkt eingebaut werden.

Hier ist die Mindestarchitektur, die für eine moderne KI-Plattform funktioniert.

Identitäts- und Zugriffsschicht

Jeder Benutzer, jede Sitzung, jeder API-Aufruf durchläuft eine Schicht, die weiß:

• Wer der Benutzer ist (Überprüfungsstufe)
• Wo er sich befindet (Gerichtsbarkeit)
• Welche Zugriffsstufe er hat (kostenlos, kostenpflichtig, Unternehmen, funktionsbeschränkt)
• Wie sein Risikoprofil aussieht (verhalten, historisch, Gerät)

Dies ist dieselbe Schicht, die KYC, AML-Screening, Sanktionsprüfungen, Altersverifizierung und Exportkontrollprüfungen verarbeitet. Bauen Sie es einmal, integrieren Sie es in jede Produktoberfläche.

Technische Komponenten:

• Dokumentenprüfung mit Live-Erkennung bei Stufen-Upgrades
• Sanktions-, PEP- und Medienüberprüfung bei Kontoerstellung
• Geräte-Fingerprinting und Verhaltensüberwachung für die fortlaufende Risikobewertung
• Fortlaufende Überwachung mit Re-Verifizierungs-Triggern

Didit ist ein Anbieter, der genau für diese Art von Form – Pay-per-Check, globale Abdeckung, schnelle Verifizierung, KI-native API – entwickelt wurde.

Content Safety Layer

Eingangsfilterung, Ausgangsfilterung, Missbrauchserkennung, CSAM-Scanning, Urheberrechtsschutz und Content-Provenance-Signale. Hier treffen Modell-Sicherheit und regulatorische Verpflichtungen aufeinander. Spezifische Fähigkeiten:

• Prompt-Klassifizierung für Missbrauchskategorien (CSAM, Waffenanhebung, Betrug, Selbstverletzung)
• Ausgangsklassifizierung, die den gleichen Kategorien entspricht
• Hash-Abgleich mit bekannten schädlichen Inhalten (NCMEC, Urheberrechtsdatenbanken)
• Wasserzeichen und C2PA-Herkunft für generierte Medien
• Red-Team-Regressionstest für bekannte Jailbreaks

Audit- und Berichtsschicht

Regulierungsbehörden verlangen zunehmend strukturierte Berichte. Bauen Sie die Audit-Log-Infrastruktur von Anfang an auf, um dies zu unterstützen:

• Jede Entscheidung mit wesentlichen Auswirkungen wird zusammen mit Eingaben, Ausgaben, Modellversion, Prompt und Benutzerstufe protokolliert
• Vorfall-Pipeline, die mit interner Eskalation und externer Meldepflicht verbunden ist
• Generierung von Transparenzberichten (aggregierte, anonymisierte Metriken zu Kennzeichnungen, Sperrungen, Ablehnungen)
• Infrastruktur für Forschungszugriff für DSA-ähnliche Datenanfragen
• Exportbereite Nachweisdokumente für bestimmte Compliance-Frameworks (EU KI-Gesetz technische Dokumentation, ISO 42001, SOC 2)

Jurisdictions-Routing

Es gelten unterschiedliche Regeln an unterschiedlichen Orten. Eine einzige Codebasis muss Folgendes verarbeiten:

• EU-Benutzer unter DSGVO, EU KI-Gesetz, DSA
• UK-Benutzer unter UK GDPR, Online Safety Act, UK KI-Regulierung
• US-Benutzer unter staatlichen Patchwork (California CCPA/CPRA, Utah AI law, Colorado AI Act, NY Local Law 144)
• Brasilien-Benutzer unter LGPD und bevorstehendem KI-Gesetz
• China-Benutzer unter CAC-Regeln für generative KI

Die Compliance-Schicht leitet Anfragen weiter, setzt Gerichtsbarkeinschränkungen durch und behandelt die Datenspeicherung. Dies ist für globale Plattformen nicht optional.

Model Governance Layer

Speziell für Frontier Labs, aber zunehmend auch für alle Unternehmen, die auf Modellen aufbauen:

• Modellkarten mit Herkunft der Trainingsdaten, Bewertungsergebnissen, bekannten Einschränkungen
• Red-Team-Berichte für Modelle mit systemischem Risiko
• Vorfallreaktion auf Modellfehler
• Versionskontrolle für in regulierten Kontexten eingesetzte Modelle
• Dokumentation für nachgelagerte Anwender (die Transparenzpflichten des EU-KI-Gesetzes fließen durch die Lieferkette)

Häufige Fehler und wie man sie vermeidet

Compliance als Dokument behandeln

Der teuerste Fehler. Eine schön geschriebene Datenschutzerklärung nützt nichts, wenn das Produkt die darin beschriebenen Regeln nicht durchsetzt. Bauen Sie die Durchsetzung in die Architektur ein und beschreiben Sie sie dann in der Richtlinie – nicht umgekehrt.

Annehmen, Selbstauskunft reicht aus

„Benutzer müssen über 18 Jahre alt sein“ in Ihren Nutzungsbedingungen erfüllt nicht die Anforderungen der Altersverifizierung. „Benutzer dürfen unser Produkt nicht für illegale Zwecke verwenden“ erfüllt nicht die Verpflichtungen zur Verhinderung von CSAM. Sie brauchen eine Überprüfung, keine Auskunft.

Auf regulatorische Klarheit warten

Die Vorschriften werden nicht lockerer. In jeder Runde der Klärung wurden die Verpflichtungen verschärft, nicht gelockert. Wenn Sie heute für das EU-KI-Gesetz 2025 bauen, sind Sie für die Bestimmungen mit hohem Risiko 2026 bereits im Rückstand. Bauen Sie für die strengere Auslegung.

Biometrische und Identitätsdaten selbst verwalten

Dies ist ein spezialisiertes, reguliertes Verwahrgeschäft. Wenn Sie kein KYC-Anbieter sind, werden Sie es nicht versehentlich. Verwenden Sie einen dedizierten Anbieter (Persona, Onfido, Didit) für Identitätsdaten und bleiben Sie auf der richtigen Seite der Linie zwischen Datenverantwortlichem und Datenverarbeiter.

Sicherheit und Compliance als getrennte Bereiche betrachten

Es ist die gleiche Funktion mit unterschiedlichen Zielgruppen. Ihr Red-Team-Programm ist Teil Ihrer Dokumentation des systemischen Risikos des EU-KI-Gesetzes. Ihr CSAM-Klassifikator ist Teil Ihrer DSA-Verpflichtungen. Ihre Sanktionsprüfung ist Teil Ihrer Exportkontrollhaltung. Integrierte Governance ist effizient. Siloartige Governance garantiert Lücken.

Die Compliance-Kosten für Unternehmenskunden unterschätzen

Unternehmenskunden verlangen Nachweise – SOC 2 Type II, ISO 27001, ISO 42001 (KI-spezifisch), Datenverarbeitungsvereinbarungen, Unterverarbeiterlisten, Nachweise der Datenspeicherung in bestimmten Gerichtsbarkeiten. Wenn Sie diese im ersten Jahr nicht einbauen, verlieren Sie im zweiten Jahr Monate an Unternehmensabschlüssen.

Wie eine gute KI-Plattform im Jahr 2026 aussieht

Eine gut strukturierte KI-Plattform in 2026 verfügt mindestens über:

• Risikobasierte Identitätsprüfung, die in jede Stufe und Funktionsgrenze eingebunden ist
• Sanktions- und Exportkontrollprüfung bei Kontoerstellung und in regelmäßigen Abständen
• Altersverifizierung an jeder Stelle, an der Minderjährige einem wesentlichen Risiko ausgesetzt sind
• Content-Safety-Infrastruktur – Eingangsfilterung, Ausgangsfilterung, CSAM-Scanning, Wasserzeichen
• Audit-Logs und Transparenzberichte, die regulatorische Meldungen ohne heldenhafte Bemühungen unterstützen können
• Jurisdictions-Routing und Steuerung der Datenspeicherung
• Eine Sicherheits- und Governance-Funktion, die an die Unternehmensleitung berichtet, in Produkt und Technik integriert ist und nicht nachträglich hinzugefügt wird
• Dokumentierte Modell-Governance – Karten, Bewertungen, Red-Team-Berichte, Vorfallreaktion
• Due Diligence bei Anbietern für jedes Modell, jedes Tool und jeden Datenanbieter in der Kette
• Aktive Überwachung von Missbrauchsmustern – Destillation, Betrug, Scraping, Identitätsdiebstahl

Dies ist eine erhebliche Investition in die Technik. Sie ist jedoch für jedes KI-Unternehmen, das in regulierten Märkten im großen Stil tätig sein möchte, nicht verhandelbar.

Der Compliance Stack ist das Produkt

Der Instinkt der KI-Entwickler besteht darin, Compliance als Overhead zu betrachten – die Steuer, die Sie für die Auslieferung Ihres „echten“ Produkts zahlen. Im Jahr 2026 ist diese Denkweise falsch. Der Compliance Stack ist zunehmend Teil des Produkts. Unternehmenskunden wählen Anbieter auf der Grundlage ihrer Compliance-Haltung. Regulierungsbehörden kontrollieren den Marktzugang anhand von Compliance-Nachweisen. Benutzer vertrauen Plattformen, die ihre Arbeit zeigen.

Die KI-Unternehmen, die die nächsten fünf Jahre gewinnen werden, sind diejenigen, die den Compliance Stack so behandeln, wie Infrastrukturunternehmen die Verfügbarkeit behandeln: als wichtiges technisches Problem mit Investitionen, Tools und Aufmerksamkeit der Führungskräfte.

Der stille Rollout von Passport- und Selfie-Verifizierung durch Anthropic bei Claude ist keine Anomalie. Es ist eine Vorschau. Jede große KI-Plattform wird entweder durch freiwillige Einführung oder durch behördliche Anordnung an den gleichen Punkt gelangen. Die Unternehmen, die dies zuerst tun und gut machen, werden sich einen dauerhaften Vorteil verschaffen. Die Unternehmen, die warten, werden die zweite Hälfte des Jahrzehnts damit verbringen, unter Druck Anpassungen vorzunehmen.

Compliance ist nicht der Feind der KI-Innovation. Unkontrollierter Missbrauch, undurchsichtige Modelle und regulatorische Unsicherheit sind es. Der Aufbau des oben beschriebenen Stacks ist der Weg, wie die Branche sich das Recht sichert, die nächste Generation von Fähigkeiten weiterzuentwickeln.

---

Didit erstellt Identitätsprüfung, AML-Screening und Compliance-Infrastruktur für KI-native Produkte. 220+ Länder, 14.000+ Dokumenttypen, 0,30 $ pro Verifizierung, keine Mindestmengen. Kostenlos starten oder kontaktieren Sie das Team.