Red Generativa Adversarial (GAN)
Una red generativa adversaria (GAN) es un tipo de arquitectura de IA generativa que utiliza dos redes neuronales —un generador y un discriminador— entrenadas para competir entre sí. Las GAN están diseñadas para generar contenido sintético que se asemeja mucho a los datos del mundo real.
El generador crea resultados sintéticos basados en patrones aprendidos a partir de los datos de entrenamiento, mientras que el discriminador evalúa si una muestra es auténtica o ha sido generada por IA. Durante el entrenamiento, los dos modelos compiten continuamente: el generador intenta producir resultados cada vez más convincentes, mientras que el discriminador intenta detectar si esos resultados son falsos. Este proceso se conoce como entrenamiento adversarial.
Este proceso de entrenamiento adversarial continúa hasta que al discriminador le resulte difícil distinguir de forma fiable los datos generados de los datos auténticos. La eficacia de las GAN se debe a este ciclo constante de retroalimentación.
En términos más sencillos, se trata de dos redes neuronales que compiten entre sí: una aprende a generar datos sintéticos, mientras que la otra aprende a detectarlos. Al competir, ambos modelos mejoran al mismo tiempo, lo que a menudo da como resultado contenidos sintéticos muy convincentes que pueden parecerse a imágenes, vídeos o audios reales.
Usos habituales de las redes generativas adversarias
Las redes generativas adversarias (GAN) se asocian principalmente con la síntesis de imágenes y la generación de deepfakes, aunque también pueden utilizarse para la mejora de imágenes, la transferencia de estilos, la superresolución, la generación de vídeos y la creación de datos sintéticos.
Entre sus aplicaciones legítimas se incluyen la generación de conjuntos de datos de entrenamiento para el aprendizaje automático, la restauración de imágenes de baja calidad y el apoyo a la investigación en visión artificial. Sin embargo, las GAN también se asocian ampliamente con aplicaciones maliciosas de IA generativa, especialmente en la creación de deepfakes e identidades sintéticas.
Redes de generadores de adversarios (GAN), fraude de identidad y verificación de identidad
En el ámbito de la verificación de identidad, la verificación de documentos y la detección de vida, las redes GAN pueden utilizarse para generar rostros sintéticos fotorrealistas, imágenes de identidad manipuladas y soportes biométricos fraudulentos.
Los ciberdelincuentes pueden utilizar imágenes generadas por redes GAN que representan a personas inexistentes y combinarlas con documentos de identidad falsificados o manipulados para crear identidades sintéticas. Estos ataques están diseñados para eludir los controles de identidad a lo largo de todo el ciclo de vida de la identidad digital , incluyendo el registro de usuarios, la autenticación y la recuperación de cuentas.
Los contenidos generados por redes generativas de adversarios (GAN) también pueden utilizarse para:
- Mejorar los documentos de identidad falsos
- Mejorar el realismo de las imágenes utilizadas en los ataques de suplantación y los ataques de inyección
- Crear contenido deepfake con el objetivo de socavar los sistemas de verificación de identidad.
Detección de contenidos generados por redes GAN
A medida que avanzan las tecnologías de IA generativa, distinguir entre contenidos auténticos y sintéticos resulta cada vez más complicado para los sistemas tradicionales de detección de fraudes.
iProov utiliza una tecnología patentada de detección de presencia real con Flashmark para detectar contenidos multimedia creados por redes generativas adversarias. El aprendizaje profundo y la visión artificial analizan determinadas características de la presencia humana auténtica que resultan muy difíciles de reproducir en los contenidos sintéticos. Nuestras soluciones verifican si hay una persona real al otro lado de la cámara. Para obtener una explicación más técnica, visita aquí la página sobre el mecanismo de desafío-respuesta.
Al incorporar un sistema fiable de detección de presencia, las organizaciones pueden distinguir entre imágenes generadas por ordenador y una persona real que se encuentre efectivamente presente durante el proceso de autenticación.
Recursos relacionados con las redes generativas adversarias
Para obtener más información sobre cómo los estafadores están utilizando la IA generativa, como las redes GAN, para eludir la verificación de identidad y potenciar el fraude de identidad sintética, lea nuestro informe «De robada a sintética» aquí.
Más información: