Deepfakes: Tipos, Detección y Defensa Explicados (ES)

Un deepfake es un medio sintético o manipulado creado con técnicas de aprendizaje automático para hacer que una persona parezca decir, hacer o presentar algo que no ocurrió. Los deepfakes pueden alterar o generar imágenes, videos y audio; en ataques de identidad, pueden suplantar a una persona real, crear un personaje sintético, modificar pruebas de identidad o introducir medios falsificados en un flujo de verificación remoto.

La defensa contra deepfakes no es un solo detector. Las decisiones fiables combinan la procedencia de los medios, el análisis forense, la captura de confianza, la detección de ataques de presentación, la vinculación de identidad, las señales de dispositivo y red, el contexto de la transacción y un proceso de escalada para casos inciertos.

Puntos clave

• Deepfake es una categoría de medios, no un solo ataque. Los intercambios de rostros, la recreación, la sincronización labial, la clonación de voz, las personas totalmente generadas y los documentos alterados crean diferentes pruebas y riesgos.
• Los ataques de presentación y de inyección son diferentes. Un ataque de presentación muestra un artefacto a un sensor real; un ataque de inyección inserta medios falsificados después o en lugar del sensor.
• La inspección visual humana no es un control suficiente. La compresión y los nuevos generadores borran artefactos familiares, mientras que los medios genuinos también pueden parecer inusuales.
• Las puntuaciones de detección son condicionales. Los resultados dependen del generador, el ataque, la ruta de captura, la compresión, la población, el umbral y el entorno operativo utilizados en las pruebas.
• La verificación es más fuerte que la apariencia sola. Una solicitud de alto riesgo debe vincularse a una identidad, dispositivo, canal autenticado y proceso de aprobación independiente.

¿Qué es un deepfake?

El término combina “aprendizaje profundo” (deep learning) y “falso” (fake). Originalmente describía videos con intercambio de rostros, pero el uso común ahora incluye imágenes, videos y discursos realistas generados o manipulados por IA. La cuestión definitoria no es si cada píxel se genera. Es si la manipulación computacional crea pruebas engañosas de identidad, habla, comportamiento u origen.

Los deepfakes pertenecen a la categoría más amplia de medios sintéticos. Los medios sintéticos también tienen usos legítimos en el cine, la accesibilidad, la educación, la localización, la privacidad y el trabajo creativo. El riesgo de seguridad aparece cuando los medios se utilizan para hacer una afirmación falsa, especialmente una afirmación sobre quién está presente, quién autorizó una acción o de dónde provienen los medios.

Deepfake, cheapfake e identidad sintética

• Deepfake: medios generados o manipulados con métodos de aprendizaje automático para imitar o fabricar una persona, objeto o evento.
• Cheapfake: medios engañosos producidos con edición más simple, reetiquetado, cambios de velocidad, recorte selectivo o reutilización fuera de su contexto original.
• Identidad sintética: una identidad ensamblada a partir de atributos fabricados y reales. Puede usar medios deepfake, pero el registro de identidad, no solo los medios, es el ataque.
• Morfología facial: un retrato mezclado de dos o más personas, a menudo para que el resultado se parezca a múltiples identidades.
• Reproducción: medios genuinos o manipulados reproducidos en un sistema de captura. El contenido puede ser real mientras que la afirmación de presencia en vivo es falsa.

Estas categorías pueden superponerse. Un estafador puede combinar un documento robado, un retrato morfológico, un intercambio de rostros en tiempo real, un proxy residencial y una cuenta comprometida en un solo intento.

¿Qué tipos de deepfakes existen?

Tipo	Qué cambia	Riesgo de identidad típico	Capas de control útiles
Intercambio de rostros	Un rostro se mapea sobre otra persona	Suplantación de identidad en la incorporación, llamadas o recuperación de cuentas	Captura de confianza, prueba de vida, comparación facial, controles de inyección
Recreación facial	La expresión, la pose o la mirada son impulsadas por otra fuente	Pasar indicaciones o imitar el comportamiento en vivo	Pistas impredecibles, análisis temporal, integridad del sensor
Sincronización labial	El movimiento de la boca se altera para que coincida con el nuevo audio	Declaraciones fabricadas o suplantación de identidad en llamadas	Consistencia audio-video, procedencia, confirmación independiente
Clonación de voz	El habla se sintetiza en una voz objetivo	Ingeniería social de pago o restablecimiento de credenciales	Devolución de llamada, autenticación fuerte, doble aprobación, análisis de audio
Persona totalmente generada	La imagen o el video representan a una persona que no existe	Cuentas sintéticas, perfiles falsos, reclutamiento de mulas	Pruebas de identidad, comprobaciones de bases de datos, análisis de dispositivos y redes
Manipulación de documentos	El retrato, el texto, el diseño o las características de seguridad se alteran	Pruebas de identidad falsas	Validación de documentos, captura en vivo de documentos, comprobaciones NFC o del emisor
Morfología facial	Múltiples rostros se mezclan en un retrato	Un documento puede parecer coincidir con más de una persona	Detección de morfología, referencia de calidad del emisor, revisión humana

Ninguna fila tiene un control único perfecto. Un detector de rostros no puede establecer la autenticidad de un documento. La procedencia del contenido no puede probar la identidad real del firmante. La prueba de vida en el sensor no detecta automáticamente los medios inyectados más adelante.

¿Cómo se crean los deepfakes?

Los deepfakes modernos pueden producirse con varias familias de modelos. Los detalles técnicos difieren, pero el flujo de trabajo práctico generalmente incluye la recopilación de fuentes, el aprendizaje de la representación, la generación, la composición y el post-procesamiento.

1. Se recopila material fuente

El atacante recopila imágenes, videos o grabaciones de voz del objetivo. Entrevistas públicas, perfiles sociales, reuniones de video, documentos filtrados y capturas de verificación previas pueden convertirse en material fuente. Para identidades totalmente generadas, el modelo crea un nuevo sujeto en lugar de copiar a una persona.

2. El modelo aprende o preserva las características de identidad

Los sistemas de intercambio de rostros codifican la estructura y la apariencia facial, luego renderizan la identidad objetivo sobre un intérprete fuente. Los sistemas de recreación transfieren la pose o la expresión. Los sistemas de voz aprenden las características del hablante y generan voz a partir de texto u otra voz.

3. Se genera contenido sintético

Las redes generativas adversarias, los autoencoders, los modelos de difusión y los sistemas de renderizado neuronal pueden contribuir. La familia de modelos por sí sola no les dice a los defensores qué artefacto permanecerá; diferentes datos de entrenamiento y post-procesamiento producen diferentes rastros.

4. El resultado se compone y corrige

La mezcla, la corrección de color, la reiluminación, la limpieza de audio, la interpolación de fotogramas y la sincronización labial hacen que la salida sea más coherente. Un estafador puede agregar deliberadamente desenfoque o compresión para ocultar los rastros del generador.

5. Los medios se entregan

La entrega determina la superficie de ataque. Un archivo puede cargarse, mostrarse en una pantalla, imprimirse, reproducirse durante una videollamada, enrutarse a través de una cámara virtual o inyectarse entre el componente de captura y el servidor.

Ese último paso es la razón por la cual una definición puramente forense no es suficiente para los sistemas de identidad. La misma cara generada crea una amenaza diferente cuando se publica públicamente, se muestra a una cámara o se inyecta en un SDK de verificación.

¿Cómo se utilizan los deepfakes en los ataques de identidad?

Ataque de presentación

El atacante presenta una foto, pantalla, máscara impresa, reproducción u otro artefacto a la cámara legítima o al sensor biométrico. ISO/IEC 30107 denomina Detección de Ataques de Presentación (PAD) al control en este límite de captura. La detección de prueba de vida es un subconjunto de PAD.

Ataque de inyección

El atacante omite o interfiere con la captura esperada e introduce medios falsificados en la ruta de procesamiento. Los ejemplos incluyen cámaras virtuales, emuladores, hooks, SDK modificados, solicitudes de red manipuladas o sustitución de archivos del lado del servidor.

NIST SP 800-63A-4 trata la prevención de inyecciones y la detección de medios falsificados como requisitos distintos. Señala que la comparación biométrica por sí sola no previene los medios inyectados y recomienda controles que aumenten la confianza en el sensor de captura y el canal protegido.

Suplantación de identidad e ingeniería social

Un clon de voz o video puede hacer que una solicitud urgente parezca provenir de un ejecutivo, empleado, cliente, proveedor o miembro de la familia. El objetivo puede ser un pago, un restablecimiento de credenciales, una divulgación o una excepción de política. Aquí, la mejor defensa puede ser la adhesión al proceso, como una ruta de devolución de llamada conocida o doble aprobación, en lugar de intentar juzgar píxeles en tiempo real.

La guía de respuesta a deepfakes de OWASP enfatiza los procesos de seguridad duraderos, los controles financieros, los procedimientos de verificación, la concienciación y la respuesta a incidentes sobre un enfoque estrecho en la detección de defectos visuales.

Creación de cuentas sintéticas

Los retratos generados, los atributos fabricados, las pruebas alteradas, los puntos de contacto desechables y las conexiones de red ofuscadas pueden combinarse para crear cuentas que no corresponden a una persona genuina. Los medios son solo una señal en un grafo de identidad y comportamiento más amplio.

Recuperación y re-vinculación de cuentas

Si un flujo de recuperación se basa en una selfie o una videollamada, los medios sintéticos pueden usarse para tomar el control de una cuenta existente o vincular un nuevo autenticador. La recuperación a menudo merece una mayor seguridad que el inicio de sesión rutinario porque puede reemplazar los controles que normalmente protegen la cuenta.

¿Cómo funciona la detección de deepfakes?

La detección de deepfakes pregunta si los medios fueron generados o manipulados. La verificación de identidad pregunta si una persona es quien dice ser. Esas preguntas se superponen, pero ninguna contiene completamente a la otra.

Procedencia y credenciales de contenido

La procedencia registra información sobre cómo se crearon y modificaron los medios. La especificación C2PA Content Credentials define una estructura a prueba de manipulaciones que puede vincular las afirmaciones de origen y edición a un activo.

La procedencia válida puede aumentar la confianza en el historial de los medios y el firmante. La falta de procedencia no es prueba de manipulación, y la procedencia válida no garantiza que la afirmación representada sea verdadera. La procedencia es una señal positiva, no un detector universal.

Análisis forense espacial

Los modelos de imagen pueden inspeccionar la textura, los límites de fusión, la iluminación, los reflejos, los patrones de frecuencia, el ruido, la geometría y los artefactos del generador. Estas características pueden funcionar bien en familias de ataques conocidas y degradarse cuando cambia el modelo, la cámara o la compresión.

Análisis temporal y audiovisual

El análisis de video puede examinar la consistencia entre fotogramas, el movimiento, la pose, el flujo óptico, los puntos de referencia faciales, la sincronización del habla y la alineación audiovisual. El análisis de voz puede inspeccionar rastros espectrales, prosódicos y de generación. El uso en tiempo real añade estrictas restricciones de latencia y calidad.

Detección de ataques de presentación y prueba de vida

PAD busca un intento de engañar al sensor de captura. La prueba de vida pasiva puede analizar una captura sin pedir al usuario que realice una acción explícita. La prueba de vida activa pide una respuesta a una indicación o desafío.

PAD se limita al límite de captura. ISO/IEC 30107-3 trata explícitamente los ataques fuera del dispositivo de captura biométrica como fuera de su alcance. Un proveedor que reclame cobertura PAD debe explicar por separado los controles de inyección, cámara virtual, emulador y canal.

Integridad de la captura y atestación del dispositivo

Los controles de captura intentan establecer que los medios provienen del sensor, la aplicación, el estado del dispositivo y el canal protegido esperados. Las señales pueden incluir la integridad del SDK, la atestación del dispositivo, la detección de emuladores o cámaras virtuales, los eventos de captura firmados, las medidas anti-manipulación y la protección contra la reproducción del lado del servidor.

Ninguna señal del dispositivo es infalible. El objetivo es hacer que la entrega falsificada sea más difícil, detectable y costosa, al tiempo que se preserva una ruta de recuperación para usuarios genuinos en dispositivos inusuales.

Vinculación de identidad y pruebas

La comparación facial puede vincular una captura en vivo a un retrato de confianza; la validación de documentos puede probar la evidencia misma; la validación de bases de datos puede corroborar atributos. Estos controles no clasifican todos los medios sintéticos, pero reducen el valor de una cara convincente que carece de un ancla de identidad defendible.

Riesgo contextual y conductual

La reutilización del dispositivo, la inconsistencia de IP y ubicación, los viajes imposibles, los intentos repetidos, la velocidad, el historial de la cuenta, el contexto de la transacción y los gráficos de relaciones pueden exponer patrones que el análisis de medios pasa por alto. Una puntuación de deepfake debe contribuir a una decisión de riesgo en lugar de borrar la otra evidencia.

Revisión humana y verificación independiente

Los revisores necesitan los medios originales, los resultados del detector, los códigos de motivo, los detalles de la captura, el historial del cliente y un manual de procedimientos definido. Para acciones de alto impacto, un canal de confianza independiente, como una devolución de llamada a un número conocido o la aprobación en un sistema autenticado, puede ser más fiable que un juicio visual.

¿Qué pueden hacer mal los detectores de deepfakes?

Falso negativo

El detector clasifica los medios manipulados como genuinos. Este es el fallo de seguridad que permite que se produzca un ataque.

Falso positivo

El detector clasifica los medios genuinos como manipulados. Esto puede bloquear a un cliente real, activar una revisión innecesaria o afectar desproporcionadamente a ciertos dispositivos y poblaciones.

Cambio de dominio

El entorno de producción difiere del conjunto de pruebas: nuevos generadores, pipelines de cámara, códecs, iluminación, idiomas, demografía o comportamiento de ataque. El programa de evaluación de deepfakes GenAI del NIST se centra en pruebas adversariales y operacionalmente relevantes precisamente porque el rendimiento de los puntos de referencia académicos puede no transferirse limpiamente a la implementación.

Desajuste de umbral

Cada puntuación se convierte en una decisión solo después de aplicar un umbral. Un umbral ajustado para el triaje forense puede ser incorrecto para la apertura instantánea de cuentas. La seguridad, la fricción del usuario, la capacidad de revisión manual y la pérdida posterior influyen en el punto de operación.

Confusión de alcance

Un detector evaluado en imágenes faciales cargadas puede no decir nada sobre clones de audio, cámaras virtuales en tiempo real, morfologías de documentos o reproducción. Las etiquetas de los productos deben reemplazarse con una matriz de cobertura ataque por ataque.

¿Cómo deben los equipos evaluar las defensas contra deepfakes?

Definir primero el modelo de amenaza

Enumere la acción protegida, la capacidad del atacante, el tipo de medio, la ruta de entrega, los dispositivos esperados, los anclas de identidad disponibles y la consecuencia del error. “Detectar deepfakes” no es un requisito comprobable.

Exigir una matriz de cobertura de ataques

Pregunte si las pruebas incluyen intercambios de rostros, recreación, sincronización labial, rostros totalmente generados, clones de voz, morfologías, reproducciones impresas y en pantalla, cámaras virtuales, emuladores, manipulación de SDK e inyección de API. Registre qué control posee cada ataque.

Inspeccionar los datos de prueba

Busque generadores no vistos, múltiples herramientas de ataque, usuarios genuinos, cobertura demográfica, diferentes cámaras, compresión, degradación de la red y captura similar a la producción. Separe los conjuntos de desarrollo, validación y prueba. Pregunte con qué frecuencia se actualiza la evaluación.

Revisar ambas tasas de error

Obtenga el comportamiento de falsos positivos y falsos negativos en el umbral de operación, no solo un titular de precisión. Solicite intervalos de confianza, recuentos de muestras, resultados por ataque, análisis de subgrupos y tasas de no respuesta.

Probar todo el recorrido

Evalúe el SDK de captura, el transporte, el backend, el motor de decisión, los webhooks, el comportamiento de reintento, la revisión manual y el estado de la cuenta. Un clasificador de medios fuerte aún puede estar detrás de una solicitud reproducible o un flujo de recuperación inseguro.

Ejecutar una implementación en la sombra

Antes de bloquear a los clientes, califique el tráfico similar a la producción en modo sombra. Compare los resultados del detector con los hallazgos del revisor, el fraude confirmado, los reintentos de los usuarios, los casos de soporte y las pérdidas posteriores. Luego, establezca acciones graduales como permitir, escalar, revisar, limitar la tasa o rechazar.

Planificar la deriva

Defina la propiedad para la ingesta de nuevos ataques, ejercicios de equipo rojo, actualizaciones de modelos, revisión de umbrales, respuesta a incidentes y reversión. Una prueba de proveedor única no puede cubrir un ecosistema de generadores cambiante.

Errores comunes en la defensa contra deepfakes

Capacitar a los usuarios para que busquen fallos visuales

El parpadeo, las manos, los dientes, la sincronización labial y los artefactos de borde pueden ser pistas, pero no son ni necesarios ni suficientes. Un video normal puede verse extraño después de la compresión, y los nuevos generadores pueden eliminar el indicio de ayer.

Comprar una sola “puntuación de deepfake”

Una puntuación rara vez cubre todos los medios y rutas de entrega. Requiera evidencia sobre el alcance del modelo, la cobertura del ataque, las condiciones de prueba, los umbrales y las compensaciones de error.

Asumir que la prueba de vida detiene la inyección

La prueba de vida puede ayudar en el límite del sensor. Los ataques de inyección se dirigen a la ruta alrededor o después de ese límite, por lo que también requieren controles de integridad de captura y de canal.

Tratar la falta de procedencia como prueba de fraude

Muchos activos genuinos no tienen credenciales de contenido. La ausencia significa que la señal de procedencia no está disponible, no que los medios sean falsos.

Rechazar automáticamente cada resultado incierto

Los casos ambiguos necesitan una escalada o revisión basada en el riesgo. La incertidumbre de un detector no debe convertirse en una denegación permanente inexplicada.

Ignorar los controles no relacionados con los medios

Las aprobaciones de pago, la recuperación de cuentas, los cambios de credenciales y la divulgación de datos deben tener controles que sobrevivan a una imitación perfecta. La autenticación fuerte, la separación de funciones, las devoluciones de llamada de confianza, los límites y el retraso pueden reducir el impacto incluso cuando la detección falla.

Un modelo de defensa por capas

Capa	Pregunta	Resultado de ejemplo
Procedencia	¿Existe un historial válido y confiable para este activo?	Credencial verificada, credencial faltante, vinculación inválida
Análisis forense de medios	¿El medio muestra evidencia de manipulación o generación?	Puntuación de riesgo con evidencia de familia de ataque
Integridad de la captura	¿Los medios provienen del sensor y la aplicación esperados?	Captura atestiguada, cámara virtual, reproducción, desconocido
PAD y prueba de vida	¿Hay una persona de buena fe presente en el sensor?	Buena fe, ataque de presentación, reintento
Vinculación de identidad	¿La persona coincide con la evidencia de identidad confiable?	Coincidencia, no coincidencia, calidad insuficiente
Contexto	¿Coinciden el dispositivo, la red, la cuenta y el comportamiento?	Normal, inconsistente, alta velocidad, abuso vinculado
Proceso	¿La acción solicitada está autorizada de forma independiente?	Permitir, escalar, doble aprobación, retener

Las capas deben producir evidencia explicable y acciones acotadas. Un resultado de alto riesgo puede desencadenar una captura más fuerte, un factor diferente, una revisión manual o una confirmación independiente en lugar de un resultado irreversible inmediato.

Dónde encaja Didit

Didit ofrece Prueba de vida pasiva a $0.10 y Prueba de vida activa a $0.15, y sus certificaciones incluyen iBeta Nivel 1 PAD. Estos controles de presentación se pueden combinar con Verificación de ID, Detección de prueba de vida, Coincidencia facial y Análisis de dispositivo e IP en un flujo de trabajo basado en riesgos.

Cada control tiene un límite. Los equipos deben mapear el resultado de PAD a ataques de presentación, evaluar las protecciones de captura e inyección por separado y conservar su propia lógica de decisión y revisión. Las tarifas de los módulos publicados están disponibles en la página de precios.

Preguntas frecuentes

¿Todas las imágenes generadas por IA son deepfakes?

No necesariamente. “Deepfake” generalmente implica medios sintéticos o manipulados que fabrican identidad, habla, comportamiento o un evento. Una ilustración generada claramente etiquetada es un medio sintético sin ser necesariamente engañosa.

¿Pueden las personas detectar deepfakes de forma fiable a simple vista?

No. Las pistas visuales pueden ayudar al triaje, pero la fiabilidad cambia con el generador, la calidad de los medios, la compresión y el espectador. Las decisiones de alto impacto necesitan verificación técnica y procesal.

¿Cuál es la diferencia entre un ataque de presentación y un ataque de inyección?

Un ataque de presentación coloca un artefacto frente al sensor esperado. Un ataque de inyección inserta medios falsificados en la ruta de procesamiento, eludiendo o interfiriendo con la captura esperada.

¿La detección de prueba de vida detiene todos los deepfakes?

No. La prueba de vida es un control centrado en la captura. Su cobertura depende del método y las pruebas, y no cubre automáticamente el audio, los documentos, la procedencia del contenido o la inyección posterior.

¿Son las credenciales de contenido una prueba de que los medios son verdaderos?

Pueden proporcionar una procedencia a prueba de manipulaciones sobre el origen y las ediciones cuando el firmante y la vinculación son de confianza. No emiten un juicio de valor sobre si la afirmación representada es verdadera.

¿Qué métricas importan para un detector de deepfakes?

El comportamiento de falsos negativos y falsos positivos en el umbral de implementación, desglosado por tipo de ataque, generador, condición de captura, dispositivo y población relevante. Los equipos también deben medir las tasas de no respuesta, la latencia, la carga de revisión y el fraude posterior.

¿Qué debe suceder cuando un detector no está seguro?

Utilice una respuesta gradual: solicite una nueva captura de confianza, requiera otro autenticador, verifique a través de un canal independiente, ponga la acción en espera o dirija el caso a una revisión capacitada.

Referencias primarias

• NIST SP 800-63A-4: Verificación y registro de identidad
• NIST GenAI: Programa de evaluación de Deepfakes 2026
• ISO/IEC 30107-3:2023 Pruebas e informes de PAD
• Explicación de las credenciales de contenido de C2PA
• Guía de OWASP para preparar y responder a eventos de deepfake
• Ataques y contramedidas de prueba de identidad remota de ENISA

La resiliencia a los deepfakes proviene de hacer varias preguntas más específicas en lugar de confiar en una puntuación amplia. Verifique el historial de los medios, la ruta de captura, la persona viva, la evidencia de identidad, el contexto circundante y el proceso de autorización, luego decida según el riesgo.