Rede Adversária Generativa (GAN)
Uma Rede Adversária Generativa (GAN) é um tipo de arquitetura de IA que utiliza duas redes neurais – um gerador e um discriminador – treinadas em oposição uma à outra. As GANs são concebidas para gerar conteúdo sintético que se assemelha muito aos dados do mundo real.
O gerador cria resultados sintéticos com base em padrões aprendidos a partir dos dados de treino, enquanto o discriminador avalia se uma amostra é autêntica ou gerada por IA. Durante o treino, os dois modelos competem continuamente: o gerador tenta produzir resultados cada vez mais convincentes, enquanto o discriminador tenta detetar se esses resultados são falsos. Este processo é conhecido como treino adversarial.
Este processo de treino adversarial continua até que os resultados gerados se tornem difíceis de distinguir, de forma fiável, dos dados autênticos por parte do discriminador. A eficácia das GANs deve-se a este ciclo constante de feedback.
Em termos mais simples, trata-se de duas redes neurais que competem entre si: uma aprende a criar dados sintéticos, enquanto a outra aprende a detetá-los. Ao competirem, ambos os modelos melhoram simultaneamente, o que muitas vezes resulta em conteúdos sintéticos altamente convincentes, capazes de se assemelhar a imagens, vídeos ou áudio reais.
Utilizações comuns das redes adversariais generativas
As GANs são mais frequentemente associadas à síntese de imagens e à geração de deepfakes, embora também possam ser utilizadas para o aprimoramento de imagens, a transferência de estilos, a super-resolução, a geração de vídeos e a criação de dados sintéticos.
Entre as aplicações legítimas contam-se a geração de conjuntos de dados de treino para a aprendizagem automática, a restauração de imagens de baixa qualidade e o apoio à investigação em visão computacional. No entanto, as GANs também são frequentemente associadas a aplicações maliciosas de IA generativa, nomeadamente na criação de deepfakes e identidades sintéticas.
GANs, fraude de identidade e verificação de identidade
No contexto da verificação de identidade, da verificação de documentos e da deteção de vida, as GAN podem ser utilizadas para gerar rostos sintéticos fotorrealistas, imagens de identidade manipuladas e meios biométricos fraudulentos.
Os autores de ameaças podem utilizar imagens geradas por redes GAN que retratam pessoas inexistentes e combiná-las com documentos de identidade falsificados ou manipulados para criar identidades sintéticas. Estes ataques são concebidos para contornar as verificações de identidade ao longo de todo o ciclo de vida da identidade digital – incluindo a integração de utilizadores, a autenticação e a recuperação de contas
Os conteúdos gerados por GAN também podem ser utilizados para:
- Melhorar documentos de identidade falsos
- Melhorar o realismo das imagens utilizadas em ataques de apresentação e ataques de injeção
- Criar conteúdos deepfake com o objetivo de comprometer os sistemas de verificação de identidade.
Detecção de conteúdos multimédia gerados por GAN
À medida que as tecnologias de IA generativa evoluem, distinguir entre conteúdos autênticos e sintéticos torna-se cada vez mais difícil para os sistemas tradicionais de deteção de fraudes.
A iProov utiliza a tecnologia patenteada de verificação de presença humana Flashmark para detetar conteúdos criados por redes adversárias generativas. A aprendizagem profunda e a visão computacional analisam determinadas características da presença humana genuína que são muito difíceis de reproduzir por conteúdos sintéticos. As nossas soluções verificam se existe uma pessoa real do outro lado da câmara. Para uma explicação mais técnica, consulte a página sobre o mecanismo de desafio-resposta aqui.
Ao incorporar um sistema robusto de deteção de presença, as organizações podem distinguir entre imagens sintéticas e uma pessoa real efetivamente presente durante a autenticação.
Recursos relacionados com redes adversariais generativas
Para saber mais sobre como os fraudadores estão a utilizar a IA generativa, como as GANs, para contornar a verificação de identidade e facilitar a fraude de identidade sintética, leia o nosso relatório “Stolen to Synthetic” aqui.
Ler mais: