Los deepfakes y otros medios sintéticos -creados en gran parte por tecnología de IA generativa- son cada vez más conocidos, y ahora se acepta ampliamente que los medios sintéticos son un problema tanto para las personas como para las organizaciones y la sociedad.
Los deepfakes adoptan muchas formas, como la recreación, el intercambio de caras y las redes generativas adversariales (GAN). Es esencial entender las diferentes formas de ataques deepfake para defenderse de ellos.
La cuestión de la IA generativa es especialmente acuciante, ya que la frecuencia de estos ataques va en aumento, a medida que resulta cada vez más fácil crear imágenes sintéticas convincentes. A medida que la IA generativa siga avanzando en sofisticación, accesibilidad y escalabilidad, será más difícil confiar en lo que vemos y con quién interactuamos en línea.
En este artículo, desmitificaremos el a menudo complejo mundo del fraude basado en la IA generativa y explicaremos las metodologías que hay detrás de cada tipo.
¿Qué es la IA Generativa?
La Inteligencia Artificial Generativa (IA) se refiere a los algoritmos que pueden generar nuevos contenidos -texto, imágenes, vídeo u otros medios- en respuesta a una entrada o solicitud determinada. Aprovechando a menudo tecnologías como las redes neuronales y la visión por ordenador, la IA generativa aprende de los patrones y la estructura de los "datos de entrenamiento" existentes para crear contenidos. Por ejemplo, la "IA analítica" sirve para analizar datos existentes y automatiza el proceso de detectar patrones o extrapolar tendencias, lo que puede ser útil en campos como la medicina y los datos sanitarios.
La IA generativa ha acaparado el zeitgeist tecnológico, con cantidades iguales de asombro y controversia en torno a herramientas como Chat-GPT. Estas herramientas pueden acelerar significativamente la creación de contenidos, pero existe una preocupación real sobre cómo pueden ser utilizadas como armas por los delincuentes en la carrera armamentística de la ciberseguridad, reforzando el fraude y la ingeniería social, la desinformación y la ciberdelincuencia a través de contenidos sintéticos manipulables.
Además, la creciente accesibilidad de las herramientas de IA generativa en los mercados del crimen como servicio significa que los atacantes menos expertos en tecnología tienen ahora un acceso fácil y asequible a herramientas sofisticadas para crear medios sintéticos. Las opciones de software de más alta tecnología de ayer son ahora habituales, a medida que se evapora la barrera tecnológica.
Una prueba reciente de la calidad de estas parodias generadas por inteligencia artificial es un estudio realizado por el Centro de Estudios Estratégicos e Internacionales, que indica que hemos "alcanzado el punto de inflexión en el que los humanos son incapaces de distinguir de forma significativa entre los contenidos digitales generados por inteligencia artificial y los creados por humanos".
En este artículo nos centraremos especialmente en la IA generativa utilizada para crear imágenes sintéticas, incluidos los deepfakes.
Diferentes tipos de ataques Deepfake
Dediquemos un momento a comprender algunas de las formas de ataque de la IA generativa.
Intercambio de caras: Una forma de medios sintéticos creados a partir de dos entradas. Combinan vídeos existentes o secuencias en directo y superponen otra identidad a la fuente original en tiempo real. El resultado final es una salida de vídeo 3D falsa, que se fusiona a partir de más de una cara, pero con la plantilla biométrica del individuo auténtico intacta, aunque visualmente el parecido sea mayor que el del atacante. Un emparejador facial sin las defensas adecuadas puede identificar el resultado como el individuo auténtico.
Recreaciones: También conocidas como deepfakes de "titiritero". En esta técnica, la expresión facial y los movimientos de la persona que aparece en el vídeo o imagen de destino son controlados por la persona que aparece en el vídeo de origen. Un actor sentado frente a una cámara guía el movimiento y la deformación de un rostro que aparece en un vídeo o imagen. Mientras que los intercambios de rostros sustituyen la identidad de origen por la identidad de destino (manipulación de la identidad), las recreaciones se ocupan de la manipulación de las expresiones faciales de una entrada cada vez.
Redes Generativas Adversariales (GAN): Una GAN funciona mediante dos modelos de IA que compiten entre sí para crear un resultado de deepfake lo más "exacto" o auténtico posible. Los dos modelos, uno generativo y otro discriminativo, crean y destruyen a la vez. El modelo generativo crea contenido basado en los datos de entrenamiento disponibles para imitar los ejemplos de los datos de entrenamiento. Mientras tanto, un modelo discriminativo comprueba los resultados del modelo generativo evaluando la probabilidad de que la muestra comprobada proceda del conjunto de datos y no del modelo generativo. Los modelos siguen mejorando hasta que el contenido generado tiene la misma probabilidad de proceder del modelo generativo que de los datos de entrenamiento. Este método es tan eficaz porque mejora el resultado de su propia autenticidad al cotejarse constantemente con las mismas herramientas diseñadas para burlarlo.
¿Cómo suelen utilizar los defraudadores los ataques de IA generativa?
La creación y el uso de imágenes sintéticas generadas por IA no son intrínsecamente delictivos. Sin embargo, las imágenes sintéticas son, por desgracia, un regalo para los ciberdelincuentes, ya que contribuyen a delitos como la extorsión y el acoso, la difusión deliberada de desinformación política o la facilitación del fraude de identidad y de documentos (como el intento de eludir los controles de verificación de identidad exigidos por la normativa "Conozca a su cliente").
Entre las formas habituales de fraude apoyadas en imágenes sintéticas se incluyen:
¿Cuál es la diferencia entre los medios sintéticos alterados y los generados digitalmente?
Los medios sintéticos son el resultado de la IA generativa, pero no todos los medios sintéticos son creados por la IA generativa.
La IA generativa genera datos totalmente nuevos que son únicos y originales, a diferencia del simple procesamiento, análisis y modificación de los datos existentes. Esta distinción podría resumirse como imágenes generadas digitalmente frente a imágenes alteradasdigitalmente.
¿Por qué todo el mundo habla de IA generativa?
Aunque la IA puede ofrecer una serie de casos de uso positivos -como la automatización de tareas, la inspiración creativa y el análisis de conjuntos de datos complejos-, los peligros de la IA generativa están cobrando protagonismo en la actualidad.
Nota: Google Trends representa el número de búsquedas orgánicas de un término específico a lo largo del tiempo; los datos del gráfico se normalizan a partir de un intervalo de 0 a 100 y se denominan "interés a lo largo del tiempo".
Una cosa es segura: la IA generativa avanza con rapidez y promete efectos profundamente perturbadores y transformadores en diversos sectores.
La IA generativa ha captado el interés del público, los responsables políticos y los gobiernos por igual. Puede obtener más información sobre la IA generativa y el sector público en este artículo, que ofrece una lista de respuestas de gobiernos y responsables políticos de todo el mundo, y detalla cómo iProov se está protegiendo frente a la amenaza.
En el mundo digital de hoy en día, la superficie de ataque digital es mayor, con un mayor número y variedad de transacciones de alto riesgo que tienen lugar en línea, lo que a menudo significa mayores recompensas para los estafadores. En última instancia, la preocupación es cómo los malos actores pueden utilizar medios sintéticos generados por IA con fines fraudulentos y para facilitar la difusión de información falsa en línea.
Reflexiones finales sobre la IA generativa y la verificación biométrica facial
Un rostro humano auténtico es único y no puede reproducirse, por lo que la verificación biométrica del rostro se ha convertido en el método más seguro y cómodo de verificar la identidad del usuario en Internet.
Una cosa está clara: la tecnología biométrica servirá de salvavidas para verificar la presencia auténtica a distancia, sobre todo porque las réplicas ya no pueden ser distinguidas por el ojo humano. En realidad, sólo los sistemas más avanzados que han estado luchando en esta carrera armamentística de rápido crecimiento están equipados para reconocer la IA generativa.
Cómo puede ayudar iProov
Para verificar una deepfake, iProov utiliza tecnología biométrica patentada de un solo uso con tecnologías de aprendizaje profundo y visión por ordenador para analizar ciertas propiedades que los medios generativos creados por IA no pueden recrear, ya que no hay una persona real al otro lado de la cámara. Esta es la razón por la que contar con una biometría en tiempo real incorporada a la tecnología liveness es fundamental para que las organizaciones puedan distinguir entre los medios sintéticos y las personas auténticas.
Para obtener más información sobre cómo los estafadores están aprovechando la IA generativa para socavar la verificación de identidad y reforzar el fraude de identidad sintética, lea nuestro nuevo informe "Stolen to Synthetic" aquí.
Reserve hoy mismo una demostración o solicite una consulta personalizada con un experto en iProov.
