Erklärbarkeit der Gesichtserkennung: Voreingenommenheit angehen & Vertrauen aufbauen

Die Gesichtserkennungstechnologie (FRT) entwickelt sich rasant weiter und treibt Anwendungen von Smartphone-Entsperrungen bis hin zur Grenzkontrolle an. Die "Black Box"-Natur vieler FRT-Systeme wirft jedoch kritische Bedenken hinsichtlich Fairness, Verantwortlichkeit und Transparenz auf. Zunehmend konzentrieren sich Unternehmen auf die Erklärbarkeitstheorie, um zu verstehen, wie diese Systeme zu ihren Schlussfolgerungen gelangen, insbesondere in risikoreichen Anwendungen wie der Identitätsprüfung. Dieser Beitrag befasst sich mit der Bedeutung der Erklärbarkeit der Gesichtserkennung, den Quellen der Voreingenommenheit in Algorithmen und den praktischen Schritten, die Didit unternimmt, um vertrauenswürdigere und ethischere FRT-Lösungen zu entwickeln.

Kernaussage 1: Bei der Erklärbarkeit in der Gesichtserkennung geht es nicht nur darum zu verstehen, was ein System tut, sondern warum es das tut, um die Identifizierung und Minderung von Verzerrungen zu ermöglichen.

Kernaussage 2: Voreingenommenheit in Trainingsdaten ist der wichtigste Faktor für unfaire oder ungenaue Ergebnisse der Gesichtserkennung, die bestimmte demografische Gruppen unverhältnismäßig stark betreffen.

Kernaussage 3: Techniken wie SHAP-Werte und LIME ermöglichen es Entwicklern, in "Black Box"-Modelle zu blicken und die Bedeutung von Funktionen zu verstehen.

Kernaussage 4: Der Aufbau von internen Tools zur Erklärbarkeit ist entscheidend für die kontinuierliche Überwachung und Verbesserung von FRT-Systemen.

Der wachsende Bedarf an erklärbarer KI (XAI) in FRT

Traditionell wurden viele Gesichtserkennungsmodelle, insbesondere solche, die auf Deep Learning basieren, als "Black Boxes" behandelt. Sie erzielen eine beeindruckende Genauigkeit, bieten aber wenig Einblick in den Entscheidungsprozess. Dieser Mangel an Transparenz birgt mehrere Herausforderungen:

• Vertrauen und Akzeptanz: Benutzer vertrauen Systemen weniger, die sie nicht verstehen.
• Erkennung von Voreingenommenheit: Verborgene Voreingenommenheiten in Trainingsdaten können zu diskriminierenden Ergebnissen führen.
• Verantwortlichkeit: Ohne Erklärbarkeit ist es schwierig festzustellen, warum ein Fehler aufgetreten ist und wer dafür verantwortlich ist.
• Einhaltung von Vorschriften: Zunehmend verlangen Vorschriften (wie die DSGVO) Erklärungen für automatisierte Entscheidungen.

Die Nachfrage nach Explainable AI (XAI) wird durch diese Bedenken angetrieben. XAI zielt darauf ab, KI-Systeme transparenter, interpretierbarer und für Menschen verständlicher zu machen. Im Kontext von FRT bedeutet dies, zu verstehen, welche Gesichtsmerkmale am meisten zu einer Erkennungsentscheidung beitragen und warum bestimmte Personen möglicherweise falsch identifiziert werden.

Quellen von Voreingenommenheit in Gesichtserkennungsalgorithmen

Voreingenommenheit in Algorithmen ist oft ein Spiegelbild der Voreingenommenheit in den Daten, die zum Trainieren verwendet werden. Mehrere Faktoren tragen dazu bei:

• Ungleichgewicht im Datensatz: Die meisten großen Gesichtsdatensätze sind auf bestimmte demografische Merkmale (z. B. hellere Hauttöne, Männer) ausgerichtet. Dies führt zu Modellen, die bei unterrepräsentierten Gruppen schlecht abschneiden. Studien haben eine deutlich höhere Fehlerrate für Frauen und People of Color gezeigt.
• Kennzeichnungsfehler: Falsche oder inkonsistente Kennzeichnung von Bildern in den Trainingsdaten kann zu Verzerrungen führen.
• Algorithmische Voreingenommenheit: Selbst bei ausgewogenen Daten können die Algorithmen selbst bestehende Voreingenommenheiten verstärken oder neue einführen.
• Merkmalsauswahl: Die Merkmale, die zur Darstellung von Gesichtern ausgewählt werden, können unbeabsichtigt Voreingenommenheiten kodieren.

Wenn ein Trainingsdatensatz beispielsweise überwiegend Bilder von hellhäutigen Personen enthält, kann der Algorithmus lernen, bestimmte Gesichtsmerkmale stärker mit dieser Bevölkerungsgruppe zu assoziieren, was zu einer Fehlidentifizierung von Personen mit dunkleren Hauttönen führt. Dies ist keine böswillige Absicht, sondern eine statistische Folge der Daten.

Techniken zur Erzielung von Erklärbarkeit der Gesichtserkennung

Es werden verschiedene Techniken eingesetzt, um die Erklärbarkeitstheorie hinter Gesichtserkennungssystemen zu verbessern:

• SHAP (SHapley Additive exPlanations): Ein spieltheoretischer Ansatz, der jedem Merkmal einen "SHAP-Wert" zuweist, der seinen Beitrag zur Vorhersage darstellt.
• LIME (Local Interpretable Model-agnostic Explanations): Approximiert das Verhalten eines komplexen Modells lokal mit einem einfacheren, interpretierbaren Modell.
• Saliency Maps: Heben visuell die Bereiche eines Bildes hervor, die für die Entscheidung des Modells am wichtigsten sind.
• Aufmerksamkeitsmechanismen: Ermöglichen es dem Modell, sich auf bestimmte Teile des Bildes zu konzentrieren, und geben Einblicke, welche Funktionen beachtet werden.

Mithilfe von SHAP-Werten können wir beispielsweise feststellen, dass der Abstand zwischen den Augen und die Form der Nase die wichtigsten Merkmale für die Identifizierung einer bestimmten Person sind. Diese Erkenntnisse können dann verwendet werden, um potenzielle Voreingenommenheiten zu identifizieren und die Leistung des Modells zu verbessern.

Didits Ansatz für erklärbare und faire FRT

Bei Didit sind wir uns der entscheidenden Bedeutung des Aufbaus vertrauenswürdiger FRT-Systeme bewusst. Unser Ansatz konzentriert sich auf mehrere Schlüsselbereiche:

• Vielfältige und ausgewogene Datensätze: Wir kuratieren und verwenden aktiv Datensätze, die für die Weltbevölkerung repräsentativ sind, mit einem starken Fokus auf Vielfalt und Inklusion.
• Erkennung und Minderung von Voreingenommenheit: Wir setzen fortschrittliche Techniken ein, um Voreingenommenheit in unseren Modellen zu erkennen und zu mindern, einschließlich Fairness-Metriken und adversariellem Training.
• Interne Tools zur Erklärbarkeit: Wir haben in den Aufbau interner Tools zur Erklärbarkeit investiert, die es unseren Ingenieuren ermöglichen, Modellvorhersagen zu analysieren, potenzielle Voreingenommenheiten zu identifizieren und die Leistung zu verbessern. Dazu gehören die Visualisierung von SHAP-Werten, Saliency Maps und Aufmerksamkeitsgewichten.
• Kontinuierliche Überwachung: Wir überwachen unsere Modelle kontinuierlich auf Leistungsunterschiede zwischen verschiedenen demografischen Gruppen.
• Transparenz und Auditierbarkeit: Wir bieten detaillierte Auditprotokolle und Berichtsfunktionen, um Transparenz und Verantwortlichkeit zu gewährleisten.

Wir setzen uns dafür ein, FRT verantwortungsvoll und ethisch einzusetzen und Systeme zu entwickeln, die fair, genau und vertrauenswürdig sind.

Sind Sie bereit, loszulegen?

Die Identitätsplattform von Didit bietet eine robuste und erklärbare Gesichtserkennung, die auf Fairness und Transparenz basiert. Erfahren Sie mehr über unsere Lösungen für Identitätsprüfung und Compliance:

• Besuchen Sie die Didit-Website
• Erkunden Sie die Didit Business Console
• Technische Dokumentation anzeigen

FAQ

Was ist der Unterschied zwischen Genauigkeit und Erklärbarkeit in der Gesichtserkennung?

Die Genauigkeit misst, wie oft ein System Personen korrekt identifiziert. Die Erklärbarkeit konzentriert sich darauf, warum das System diese Entscheidungen trifft, und gibt Einblick in den zugrunde liegenden Prozess. Ein hochgenaues System ist nicht unbedingt erklärbar und umgekehrt. Beide sind entscheidend für den Aufbau vertrauenswürdiger KI.

Wie kann Voreingenommenheit in der Gesichtserkennung reduziert werden?

Die Reduzierung von Voreingenommenheit erfordert einen vielschichtigen Ansatz, der die Verwendung vielfältiger und ausgewogener Datensätze, den Einsatz von Techniken zur Erkennung und Minderung von Voreingenommenheit und die kontinuierliche Überwachung der Modellleistung in verschiedenen demografischen Gruppen umfasst. Algorithmische Interventionen, wie z. B. adversarial Debasing, können ebenfalls wirksam sein.

Was sind SHAP-Werte und wie helfen sie bei der Erklärbarkeit?

SHAP-Werte (SHapley Additive exPlanations) weisen jedem Merkmal einen numerischen Wert zu, der seinen Beitrag zur Vorhersage des Modells darstellt. Höhere absolute SHAP-Werte weisen auf Merkmale hin, die einen größeren Einfluss auf das Ergebnis haben. Dies ermöglicht es Entwicklern, zu verstehen, welche Merkmale die Entscheidungen des Modells bestimmen.

Ist erklärbare KI (XAI) eine gesetzliche Anforderung?

Obwohl noch nicht allgemein vorgeschrieben, verlangen Vorschriften wie die EU-DSGVO zunehmend Erklärungen für automatisierte Entscheidungen, insbesondere solche, die erhebliche Folgen für Einzelpersonen haben. XAI wird für die Einhaltung der Vorschriften und die ethische KI-Entwicklung immer wichtiger.