Объяснимость распознавания лиц: борьба со смещением и укрепление доверия

Технология распознавания лиц (FRT) стремительно развивается, обеспечивая работу приложений: от разблокировки смартфонов до пограничного контроля. Однако природа «черного ящика» многих систем FRT вызывает серьезные опасения относительно справедливости, подотчетности и прозрачности. Все больше организаций сосредотачиваются на теории объяснимости, чтобы понять, как эти системы приходят к своим выводам, особенно в важных приложениях, таких как проверка личности. В этом посте рассматривается важность объяснимости распознавания лиц, источники предвзятости в алгоритмах и практические шаги, которые Didit предпринимает для создания более надежных и этичных решений FRT.

Ключевой вывод 1: Объяснимость в распознавании лиц заключается не только в понимании что делает система, но и почему она это делает, что позволяет выявлять и смягчать предубеждения.

Ключевой вывод 2: Предвзятость в обучающих данных является наиболее значительным фактором, влияющим на несправедливые или неточные результаты распознавания лиц, непропорционально затрагивая определенные демографические группы.

Ключевой вывод 3: Такие методы, как значения SHAP и LIME, позволяют разработчикам заглянуть внутрь моделей «черного ящика» и понять важность функций.

Ключевой вывод 4: Создание внутренних инструментов объяснимости жизненно важно для непрерывного мониторинга и улучшения систем FRT.

Растущая потребность в объяснимом искусственном интеллекте (XAI) в FRT

Традиционно многие модели распознавания лиц, особенно основанные на глубоком обучении, рассматривались как «черные ящики». Они достигают впечатляющей точности, но дают мало информации о процессе принятия решений. Отсутствие прозрачности создает ряд проблем:

• Доверие и принятие: пользователи с меньшей вероятностью будут доверять системам, которые они не понимают.
• Выявление предвзятости: скрытые предубеждения в обучающих данных могут привести к дискриминационным результатам.
• Подотчетность: без объяснимости трудно определить, почему произошла ошибка и кто несет ответственность.
• Соответствие нормативным требованиям: все чаще правила (например, GDPR) требуют объяснений для автоматизированных решений.

Спрос на объяснимый ИИ (XAI) обусловлен этими проблемами. XAI стремится сделать системы ИИ более прозрачными, интерпретируемыми и понятными для людей. В контексте FRT это означает понимание того, какие черты лица вносят наибольший вклад в решение о распознавании и почему определенные люди могут быть ошибочно идентифицированы.

Источники предвзятости в алгоритмах распознавания лиц

Предвзятость в алгоритмах часто является отражением предвзятости в данных, используемых для их обучения. Этому способствуют несколько факторов:

• Несбалансированность набора данных: большинство крупномасштабных наборов данных лиц смещены в сторону определенных демографических групп (например, более светлые тона кожи, мужчины). Это приводит к тому, что модели плохо работают в недостаточно представленных группах. Исследования показали значительно более высокие показатели ошибок для женщин и цветных людей.
• Ошибки маркировки: неправильная или непоследовательная маркировка изображений в обучающих данных может внести предвзятость.
• Алгоритмическая предвзятость: даже при сбалансированных данных сами алгоритмы могут усиливать существующие предубеждения или вводить новые.
• Выбор признаков: признаки, выбранные для представления лиц, могут непреднамеренно кодировать предубеждения.

Например, если обучающий набор данных содержит преимущественно изображения людей со светлой кожей, алгоритм может научиться связывать определенные черты лица сильнее с этой демографической группой, что приведет к неправильной идентификации людей с более темными тонами кожи. Это не преднамеренное зло, а статистическое следствие данных.

Методы достижения объяснимости распознавания лиц

Для улучшения теории объяснимости систем распознавания лиц используются несколько методов:

• SHAP (SHapley Additive exPlanations): теоретико-игровой подход, который присваивает каждой функции «значение SHAP», представляющее ее вклад в прогноз.
• LIME (Local Interpretable Model-agnostic Explanations): аппроксимирует поведение сложной модели локально с помощью более простой, интерпретируемой модели.
• Карты значимости: визуально выделяют области изображения, которые наиболее важны для решения модели.
• Механизмы внимания: позволяют модели сосредоточиться на определенных частях изображения, предоставляя информацию о том, на какие функции обращается внимание.

Например, используя значения SHAP, мы можем определить, что расстояние между глазами и форма носа являются наиболее важными признаками для идентификации конкретного человека. Эти сведения можно использовать для выявления потенциальных предубеждений и улучшения производительности модели.

Подход Didit к объяснимому и справедливому FRT

В Didit мы признаем критическую важность создания надежных систем FRT. Наш подход фокусируется на нескольких ключевых областях:

• Разнообразные и сбалансированные наборы данных: мы активно курируем и используем наборы данных, которые представляют глобальное население, с уделением особого внимания разнообразию и инклюзивности.
• Выявление и смягчение предвзятости: мы используем передовые методы для выявления и смягчения предвзятости в наших моделях, включая показатели справедливости и состязательное обучение.
• Внутренние инструменты объяснимости: мы инвестировали в создание внутренних инструментов объяснимости, которые позволяют нашим инженерам анализировать прогнозы моделей, выявлять потенциальные предубеждения и повышать производительность. Сюда входит визуализация значений SHAP, карт значимости и весов внимания.
• Непрерывный мониторинг: мы постоянно отслеживаем наши модели на предмет различий в производительности между различными демографическими группами.
• Прозрачность и возможность аудита: мы предоставляем подробные журналы аудита и возможности отчетности для обеспечения прозрачности и подотчетности.

Мы стремимся использовать FRT ответственно и этично, а также создавать системы, которые будут справедливыми, точными и надежными.

Готовы начать?

Платформа идентификации Didit обеспечивает надежное и объяснимое распознавание лиц, построенное с учетом справедливости и прозрачности. Узнайте больше о наших решениях для проверки личности и соответствия требованиям:

• Посетите веб-сайт Didit
• Изучите бизнес-консоль Didit
• Просмотрите техническую документацию

FAQ

В чем разница между точностью и объяснимостью в распознавании лиц?

Точность измеряет, как часто система правильно идентифицирует людей. Объяснимость фокусируется на том, почему система принимает эти решения, предоставляя информацию о базовом процессе. Высокоточная система не обязательно является объяснимой, и наоборот. И то, и другое имеет решающее значение для создания надежного ИИ.

Как можно уменьшить предвзятость в распознавании лиц?

Уменьшение предвзятости требует многогранного подхода, включая использование разнообразных и сбалансированных наборов данных, использование методов выявления и смягчения предвзятости и непрерывный мониторинг производительности модели в различных демографических группах. Вмешательства на уровне алгоритма, такие как состязательное устранение предвзятости, также могут быть эффективными.

Что такое значения SHAP и как они помогают с объяснимостью?

Значения SHAP (SHapley Additive exPlanations) присваивают числовое значение каждой функции, представляющее ее вклад в прогноз модели. Более высокие абсолютные значения SHAP указывают на функции, которые оказывают большее влияние на результат. Это позволяет разработчикам понять, какие функции управляют решениями модели.

Является ли объяснимый ИИ (XAI) юридическим требованием?

Хотя это еще не является общепринятым требованием, правила, такие как GDPR ЕС, все чаще требуют объяснений для автоматизированных решений, особенно тех, которые имеют значительные последствия для отдельных лиц. XAI становится все более важным для соответствия требованиям и этической разработки ИИ.