Maîtriser les Deepfakes : Types, Détection et Défense (FR)

Un deepfake est un média synthétique ou manipulé créé avec des techniques d'apprentissage automatique pour faire apparaître une personne disant, faisant ou présentant quelque chose qui ne s'est pas produit. Les deepfakes peuvent altérer ou générer des images, des vidéos et de l'audio ; dans les attaques d'identité, ils peuvent usurper l'identité d'une personne réelle, créer un personnage synthétique, modifier des preuves d'identité ou injecter des médias falsifiés dans un flux de vérification à distance.

La défense contre les deepfakes n'est pas un détecteur unique. Des décisions fiables combinent la provenance des médias, l'analyse forensique, la capture fiable, la détection des attaques de présentation, le lien d'identité, les signaux d'appareil et de réseau, le contexte de transaction et un processus d'escalade pour les cas incertains.

Points clés à retenir

• Un deepfake est une catégorie de média, pas une seule attaque. Les échanges de visages, la réinterprétation, la synchronisation labiale, le clonage vocal, les personnes entièrement générées et les documents altérés créent des preuves et des risques différents.
• Les attaques de présentation et d'injection sont différentes. Une attaque de présentation montre un artefact à un capteur réel ; une attaque d'injection insère des médias falsifiés après ou à la place du capteur.
• L'inspection visuelle humaine n'est pas un contrôle suffisant. La compression et les nouveaux générateurs effacent les artefacts familiers, tandis que les médias authentiques peuvent également sembler inhabituels.
• Les scores de détection sont conditionnels. Les résultats dépendent du générateur, de l'attaque, du chemin de capture, de la compression, de la population, du seuil et de l'environnement d'exploitation utilisés lors des tests.
• La vérification est plus forte que la simple apparence. Une demande à haut risque doit être liée à une identité, un appareil, un canal authentifié et un processus d'approbation indépendant.

Qu'est-ce qu'un deepfake ?

Le terme combine « deep learning » (apprentissage profond) et « fake » (faux). Il décrivait à l'origine des vidéos avec échange de visages, mais l'usage courant inclut désormais des images, vidéos et discours réalistes générés ou manipulés par l'IA. Le problème essentiel n'est pas de savoir si chaque pixel est généré. Il s'agit de savoir si la manipulation informatique crée des preuves trompeuses d'identité, de discours, de comportement ou d'origine.

Les deepfakes appartiennent à la catégorie plus large des médias synthétiques. Les médias synthétiques ont également des utilisations légitimes dans le cinéma, l'accessibilité, l'éducation, la localisation, la confidentialité et le travail créatif. Le risque de sécurité apparaît lorsque les médias sont utilisés pour faire une fausse déclaration, en particulier une déclaration sur qui est présent, qui a autorisé une action ou d'où proviennent les médias.

Deepfake, cheapfake et identité synthétique

• Deepfake : média généré ou manipulé avec des méthodes d'apprentissage automatique pour imiter ou fabriquer une personne, un objet ou un événement.
• Cheapfake : média trompeur produit avec un montage plus simple, un réétiquetage, des changements de vitesse, un recadrage sélectif ou une réutilisation en dehors de son contexte original.
• Identité synthétique : une identité assemblée à partir d'attributs fabriqués et réels. Elle peut utiliser des médias deepfake, mais l'enregistrement d'identité, et pas seulement le média, est l'attaque.
• Face morph : un portrait fusionné à partir de deux ou plusieurs personnes, souvent pour que le résultat ressemble à plusieurs identités.
• Replay : média authentique ou manipulé rejoué sur un système de capture. Le contenu peut être réel alors que l'affirmation de présence en direct est fausse.

Ces catégories peuvent se chevaucher. Un fraudeur peut combiner un document volé, un portrait morphé, un échange de visage en temps réel, un proxy résidentiel et un compte compromis en une seule tentative.

Quels types de deepfakes existent ?

Type	Ce qui change	Risque d'identité typique	Couches de contrôle utiles
Échange de visage	Un visage est mappé sur une autre personne	Usurpation d'identité lors de l'intégration, des appels ou de la récupération de compte	Capture fiable, vivacité, comparaison faciale, vérifications d'injection
Réinterprétation faciale	L'expression, la pose ou le regard est piloté par une autre source	Transmission d'invites ou imitation de comportement en direct	Indices imprévisibles, analyse temporelle, intégrité du capteur
Synchronisation labiale	Le mouvement de la bouche est modifié pour correspondre à un nouvel audio	Déclarations fabriquées ou usurpation d'identité lors d'appels	Cohérence audio-vidéo, provenance, confirmation indépendante
Clonage vocal	La parole est synthétisée dans une voix cible	Ingénierie sociale de paiement ou de réinitialisation d'identifiants	Rappel, authentification forte, double approbation, analyse audio
Personne entièrement générée	L'image ou la vidéo représente une personne qui n'existe pas	Comptes synthétiques, faux profils, recrutement de mules	Preuve d'identité, vérifications de base de données, analyse d'appareil et de réseau
Manipulation de documents	Le portrait, le texte, la mise en page ou les éléments de sécurité sont altérés	Fausse preuve d'identité	Validation de document, capture de document en direct, NFC ou vérifications de l'émetteur
Face morph	Plusieurs visages sont fusionnés en un seul portrait	Un document peut sembler correspondre à plusieurs personnes	Détection de morph, référence de qualité émetteur, examen humain

Aucune ligne n'a un contrôle unique parfait. Un détecteur de visages ne peut pas établir l'authenticité d'un document. La provenance du contenu ne peut pas prouver l'identité réelle du signataire. La vivacité au niveau du capteur ne détecte pas automatiquement les médias injectés en aval.

Comment les deepfakes sont-ils créés ?

Les deepfakes modernes peuvent être produits avec plusieurs familles de modèles. Les détails techniques diffèrent, mais le flux de travail pratique comprend généralement la collecte de sources, l'apprentissage de la représentation, la génération, le compositing et le post-traitement.

1. Le matériel source est collecté

L'attaquant recueille des images, des vidéos ou des enregistrements vocaux de la cible. Les entretiens publics, les profils sociaux, les réunions vidéo, les documents divulgués et les captures de vérification antérieures peuvent tous devenir du matériel source. Pour les identités entièrement générées, le modèle crée un nouveau sujet plutôt que de copier une personne.

2. Le modèle apprend ou préserve les caractéristiques d'identité

Les systèmes d'échange de visages encodent la structure et l'apparence faciale, puis rendent l'identité cible sur un interprète source. Les systèmes de réinterprétation transfèrent la pose ou l'expression. Les systèmes vocaux apprennent les caractéristiques de l'orateur et génèrent la parole à partir de texte ou d'une autre voix.

3. Le contenu synthétique est généré

Les réseaux génératifs adverses, les auto-encodeurs, les modèles de diffusion et les systèmes de rendu neuronal peuvent tous y contribuer. La famille de modèles seule ne dit pas aux défenseurs quel artefact restera ; différentes données d'entraînement et post-traitement produisent des traces différentes.

4. Le résultat est composé et corrigé

Le mélange, la correction des couleurs, le rééclairage, le nettoyage audio, l'interpolation d'images et la synchronisation labiale rendent la sortie plus cohérente. Un fraudeur peut délibérément ajouter du flou ou de la compression pour masquer les traces du générateur.

5. Le média est livré

La livraison détermine la surface d'attaque. Un fichier peut être téléchargé, affiché sur un écran, imprimé, lu lors d'un appel vidéo, acheminé via une caméra virtuelle ou injecté entre le composant de capture et le serveur.

Cette dernière étape explique pourquoi une définition purement forensique ne suffit pas pour les systèmes d'identité. Le même visage généré crée une menace différente lorsqu'il est publié publiquement, montré à une caméra ou injecté dans un SDK de vérification.

Comment les deepfakes sont-ils utilisés dans les attaques d'identité ?

Attaque de présentation

L'attaquant présente une photo, un écran, un masque imprimé, une relecture ou un autre artefact à la caméra légitime ou au capteur biométrique. La norme ISO/IEC 30107 appelle le contrôle à cette limite de capture Détection d'Attaque de Présentation (PAD). La détection de la vivacité est un sous-ensemble de la PAD.

Attaque par injection

L'attaquant contourne ou interfère avec la capture attendue et injecte des médias falsifiés dans le chemin de traitement. Les exemples incluent les caméras virtuelles, les émulateurs, les hooks, les SDK modifiés, les requêtes réseau manipulées ou la substitution de fichiers côté serveur.

Le NIST SP 800-63A-4 traite la prévention des injections et la détection des médias falsifiés comme des exigences distinctes. Il note que la comparaison biométrique seule ne prévient pas les médias injectés et recommande des contrôles qui augmentent la confiance dans le capteur de capture et le canal protégé.

Usurpation d'identité et ingénierie sociale

Un clone vocal ou vidéo peut faire en sorte qu'une demande urgente semble provenir d'un cadre, d'un employé, d'un client, d'un fournisseur ou d d'un membre de la famille. L'objectif peut être un paiement, une réinitialisation d'identifiants, une divulgation ou une exception de politique. Ici, la meilleure défense peut être le respect des processus — comme un chemin de rappel connu ou une double approbation — plutôt que d'essayer de juger les pixels en temps réel.

Le guide de réponse aux deepfakes de l'OWASP met l'accent sur les processus de sécurité durables, les contrôles financiers, les procédures de vérification, la sensibilisation et la réponse aux incidents plutôt qu'une focalisation étroite sur la détection des défauts visuels.

Création de compte synthétique

Des portraits générés, des attributs fabriqués, des preuves altérées, des points de contact jetables et des connexions réseau obscurcies peuvent être combinés pour créer des comptes qui ne correspondent pas à une personne authentique. Le média n'est qu'un signal dans un graphe d'identité et de comportement plus large.

Récupération et réaffectation de compte

Si un flux de récupération repose sur un selfie ou un appel vidéo, des médias synthétiques peuvent être utilisés pour prendre le contrôle d'un compte existant ou lier un nouvel authentificateur. La récupération mérite souvent une assurance plus forte que la connexion de routine, car elle peut remplacer les contrôles qui protègent normalement le compte.

Comment fonctionne la détection des deepfakes ?

La détection des deepfakes cherche à savoir si un média a été généré ou manipulé. La vérification d'identité cherche à savoir si une personne est celle qu'elle prétend être. Ces questions se recoupent, mais aucune ne contient entièrement l'autre.

Provenance et identifiants de contenu

La provenance enregistre des informations sur la manière dont un média a été créé et modifié. La spécification C2PA Content Credentials définit une structure à l'épreuve des falsifications qui peut lier les affirmations d'origine et d'édition à un actif.

Une provenance valide peut accroître la confiance dans l'historique des médias et le signataire. Une provenance manquante n'est pas une preuve de manipulation, et une provenance valide ne garantit pas que la déclaration représentée est vraie. La provenance est un signal positif, pas un détecteur universel.

Analyse forensique spatiale

Les modèles d'images peuvent inspecter la texture, les limites de mélange, l'éclairage, les reflets, les motifs de fréquence, le bruit, la géométrie et les artefacts du générateur. Ces caractéristiques peuvent bien fonctionner sur des familles d'attaques connues et se dégrader lorsque le modèle, la caméra ou la compression changent.

Analyse temporelle et audiovisuelle

L'analyse vidéo peut examiner la cohérence entre les images, le mouvement, la pose, le flux optique, les repères faciaux, la synchronisation de la parole et l'alignement audio-vidéo. L'analyse vocale peut inspecter les traces spectrales, prosodiques et de génération. L'utilisation en temps réel ajoute des contraintes strictes de latence et de qualité.

Détection d'attaque de présentation et vivacité

La PAD recherche une tentative de tromper le capteur de capture. La vivacité passive peut analyser une capture sans demander à l'utilisateur d'effectuer une action explicite. La vivacité active demande une réponse à une invite ou un défi.

La PAD est limitée à la frontière de capture. La norme ISO/IEC 30107-3 exclut explicitement les attaques en dehors du dispositif de capture biométrique. Un fournisseur revendiquant une couverture PAD devrait expliquer séparément les contrôles d'injection, de caméra virtuelle, d'émulateur et de canal.

Intégrité de la capture et attestation d'appareil

Les contrôles de capture tentent d'établir que le média provient du capteur, de l'application, de l'état de l'appareil et du canal protégé attendus. Les signaux peuvent inclure l'intégrité du SDK, l'attestation de l'appareil, la détection d'émulateur ou de caméra virtuelle, les événements de capture signés, les mesures anti-sabotage et la protection contre la relecture côté serveur.

Aucun signal d'appareil n'est infaillible. L'objectif est de rendre la livraison falsifiée plus difficile, détectable et coûteuse tout en préservant un chemin de récupération pour les utilisateurs authentiques sur des appareils inhabituels.

Lien d'identité et de preuve

La comparaison faciale peut lier une capture en direct à un portrait fiable ; la validation de document peut tester la preuve elle-même ; la validation de base de données peut corroborer les attributs. Ces contrôles ne classifient pas tous les médias synthétiques, mais ils réduisent la valeur d'un visage convaincant qui manque d'un ancrage d'identité défendable.

Risque contextuel et comportemental

La réutilisation d'appareils, l'incohérence IP et de localisation, le voyage impossible, les tentatives répétées, la vélocité, l'historique du compte, le contexte de transaction et les graphes de relations peuvent exposer des schémas que l'analyse des médias ne détecte pas. Un score de deepfake devrait contribuer à une décision de risque plutôt que d'effacer les autres preuves.

Examen humain et vérification indépendante

Les examinateurs ont besoin des médias originaux, des sorties du détecteur, des codes de motif, des détails de capture, de l'historique client et d'un plan d'action défini. Pour les actions à fort impact, un canal fiable indépendant — tel qu'un rappel à un numéro connu ou une approbation dans un système authentifié — peut être plus fiable qu'un jugement visuel.

Quels sont les erreurs possibles des détecteurs de deepfakes ?

Faux négatif

Le détecteur classe un média manipulé comme authentique. C'est l'échec de sécurité qui permet à une attaque de passer.

Faux positif

Le détecteur classe un média authentique comme manipulé. Cela peut bloquer un client réel, déclencher un examen inutile ou affecter de manière disproportionnée certains appareils et populations.

Décalage de domaine

L'environnement de production diffère de l'ensemble de test : nouveaux générateurs, pipelines de caméras, codecs, éclairage, langues, données démographiques ou comportement d'attaque. Le programme d'évaluation des deepfakes GenAI du NIST se concentre sur les tests adversariaux et pertinents sur le plan opérationnel précisément parce que la performance des bancs d'essai universitaires peut ne pas se transférer proprement au déploiement.

Inadéquation du seuil

Chaque score ne devient une décision qu'après l'application d'un seuil. Un seuil réglé pour le triage forensique peut être incorrect pour l'ouverture de compte instantanée. La sécurité, la friction utilisateur, la capacité d'examen manuel et les pertes en aval influencent tous le point de fonctionnement.

Confusion de portée

Un détecteur évalué sur des images faciales téléchargées peut ne rien dire sur les clones audio, les caméras virtuelles en temps réel, les documents morphés ou la relecture. Les étiquettes de produits devraient être remplacées par une matrice de couverture attaque par attaque.

Comment les équipes devraient-elles évaluer les défenses contre les deepfakes ?

Définir d'abord le modèle de menace

Listez l'action protégée, la capacité de l'attaquant, le type de média, le chemin de livraison, les appareils attendus, les ancres d'identité disponibles et la conséquence de l'erreur. « Détecter les deepfakes » n'est pas une exigence testable.

Exiger une matrice de couverture d'attaque

Demandez si les tests incluent les échanges de visages, la réinterprétation, la synchronisation labiale, les visages entièrement générés, les clones vocaux, les morphs, les relectures imprimées et à l'écran, les caméras virtuelles, les émulateurs, la falsification de SDK et l'injection d'API. Enregistrez quel contrôle gère chaque attaque.

Inspecter les données de test

Recherchez les générateurs inconnus, les outils d'attaque multiples, les utilisateurs authentiques, la couverture démographique, les différentes caméras, la compression, la dégradation du réseau et la capture de type production. Séparez les ensembles de développement, de validation et de test. Demandez à quelle fréquence l'évaluation est actualisée.

Examiner les deux taux d'erreur

Obtenez le comportement des faux positifs et des faux négatifs au seuil de fonctionnement, pas seulement un titre de précision. Demandez les intervalles de confiance, les nombres d'échantillons, les résultats par attaque, l'analyse des sous-groupes et les taux de non-réponse.

Tester tout le parcours

Évaluez le SDK de capture, le transport, le backend, le moteur de décision, les webhooks, le comportement de réessai, l'examen manuel et l'état du compte. Un classificateur de médias puissant peut toujours être derrière une requête rejouable ou un flux de récupération non sécurisé.

Effectuer un déploiement en mode "shadow"

Avant de bloquer les clients, évaluez le trafic de production en mode "shadow". Comparez les résultats du détecteur avec les conclusions des examinateurs, la fraude confirmée, les réessais des utilisateurs, les cas de support et les pertes en aval. Ensuite, définissez des actions graduées telles que autoriser, renforcer, examiner, limiter le débit ou refuser.

Prévoir la dérive

Définissez la responsabilité de l'ingestion de nouvelles attaques, des exercices d'équipe rouge, des mises à jour de modèles, de la révision des seuils, de la réponse aux incidents et de la restauration. Un test fournisseur ponctuel ne peut pas couvrir un écosystème de générateurs en évolution.

Erreurs courantes dans la défense contre les deepfakes

Former les utilisateurs à rechercher des défauts visuels

Le clignement des yeux, les mains, les dents, la synchronisation labiale et les artefacts de bord peuvent être des indices, mais ils ne sont ni nécessaires ni suffisants. Une vidéo normale peut sembler étrange après compression, et les nouveaux générateurs peuvent supprimer les indices d'hier.

Acheter un seul « score de deepfake »

Un seul score couvre rarement tous les médias et chemins de livraison. Exigez des preuves sur la portée du modèle, la couverture des attaques, les conditions de test, les seuils et les compromis d'erreur.

Supposer que la vivacité arrête l'injection

La vivacité peut aider à la limite du capteur. Les attaques par injection ciblent le chemin autour ou après cette limite, elles nécessitent donc également des contrôles d'intégrité de capture et de canal.

Traiter l'absence de provenance comme une preuve de fraude

De nombreux actifs authentiques n'ont pas d'identifiants de contenu. L'absence signifie que le signal de provenance n'est pas disponible, et non que le média est faux.

Refuser automatiquement tous les résultats incertains

Les cas ambigus nécessitent une intensification ou un examen basé sur les risques. L'incertitude d'un détecteur ne devrait pas entraîner un refus permanent inexpliqué.

Ignorer les contrôles non médiatiques

Les approbations de paiement, la récupération de compte, les changements d'identifiants et la divulgation de données devraient avoir des contrôles qui survivent à une imitation parfaite. L'authentification forte, la séparation des tâches, les rappels fiables, les limites et les délais peuvent réduire l'impact même lorsque la détection échoue.

Un modèle de défense en couches

Couche	Question	Exemple de résultat
Provenance	Cet actif a-t-il un historique valide et fiable ?	Identifiant vérifié, identifiant manquant, liaison invalide
Analyse forensique des médias	Le média montre-t-il des preuves de manipulation ou de génération ?	Score de risque avec preuves de famille d'attaques
Intégrité de la capture	Le média provient-il du capteur et de l'application attendus ?	Capture attestée, caméra virtuelle, relecture, inconnu
PAD et vivacité	Une personne de bonne foi est-elle présente au capteur ?	Bonne foi, attaque de présentation, réessai
Lien d'identité	La personne correspond-elle aux preuves d'identité fiables ?	Correspondance, non-correspondance, qualité insuffisante
Contexte	L'appareil, le réseau, le compte et le comportement sont-ils cohérents ?	Normal, incohérent, vélocité élevée, abus lié
Processus	L'action demandée est-elle autorisée indépendamment ?	Autoriser, renforcer, double approbation, suspendre

Les couches devraient produire des preuves explicables et des actions délimitées. Un résultat à haut risque peut déclencher une capture plus forte, un facteur différent, un examen manuel ou une confirmation indépendante plutôt qu'un résultat irréversible immédiat.

La place de Didit

Didit propose la Vivacité Passive à 0,10 $ et la Vivacité Active à 0,15 $, et ses certifications incluent iBeta Niveau 1 PAD. Ces contrôles de présentation peuvent être associés à la Vérification d'identité, à la Détection de la vivacité, à la Comparaison faciale et à l'Analyse d'appareil et d'IP dans un flux de travail basé sur les risques.

Chaque contrôle a une limite. Les équipes doivent mapper le résultat PAD aux attaques de présentation, évaluer séparément les protections de capture et d'injection, et conserver leur propre logique de décision et d'examen. Les tarifs des modules publiés sont disponibles sur la page des tarifs.

Foire aux questions

Toutes les images générées par l'IA sont-elles des deepfakes ?

Pas nécessairement. Le terme « deepfake » implique généralement des médias synthétiques ou manipulés qui fabriquent l'identité, la parole, le comportement ou un événement. Une illustration générée clairement étiquetée est un média synthétique sans être nécessairement trompeuse.

Les gens peuvent-ils repérer les deepfakes de manière fiable à l'œil nu ?

Non. Les indices visuels peuvent aider au triage, mais la fiabilité varie avec le générateur, la qualité du média, la compression et le spectateur. Les décisions à fort impact nécessitent une vérification technique et procédurale.

Quelle est la différence entre une attaque de présentation et une attaque par injection ?

Une attaque de présentation place un artefact devant le capteur attendu. Une attaque par injection insère des médias falsifiés dans le chemin de traitement, contournant ou interférant avec la capture attendue.

La détection de vivacité arrête-t-elle tous les deepfakes ?

Non. La vivacité est un contrôle axé sur la capture. Sa couverture dépend de la méthode et des tests, et elle ne couvre pas automatiquement l'audio, les documents, la provenance du contenu ou l'injection en aval.

Les identifiants de contenu prouvent-ils que les médias sont vrais ?

Ils peuvent fournir une provenance infalsifiable sur l'origine et les modifications lorsque le signataire et la liaison sont fiables. Ils ne portent pas de jugement de valeur sur la véracité de la déclaration représentée.

Quelles métriques sont importantes pour un détecteur de deepfakes ?

Le comportement des faux négatifs et des faux positifs au seuil de déploiement, ventilé par type d'attaque, générateur, condition de capture, appareil et population pertinente. Les équipes devraient également mesurer les taux de non-réponse, la latence, la charge d'examen et la fraude en aval.

Que devrait-il se passer lorsqu'un détecteur est incertain ?

Utilisez une réponse graduée : demandez une nouvelle capture fiable, exigez un autre authentificateur, vérifiez via un canal indépendant, suspendez l'action ou acheminez le cas à un examen spécialisé.

Références principales

• NIST SP 800-63A-4 : Preuve d'identité et enrôlement
• NIST GenAI : Programme d'évaluation Deepfakes 2026
• ISO/IEC 30107-3:2023 Tests et rapports PAD
• Explicatif C2PA Content Credentials
• Guide OWASP pour la préparation et la réponse aux événements deepfake
• Attaques et contre-mesures de vérification d'identité à distance de l'ENISA

La résilience aux deepfakes provient de la formulation de plusieurs questions plus précises plutôt que de la confiance en un score général. Vérifiez l'historique des médias, le chemin de capture, la personne vivante, les preuves d'identité, le contexte environnant et le processus d'autorisation, puis décidez en fonction du risque.