Rede Adversária Generativa (GAN)
Uma Rede Adversária Generativa (GAN) é um tipo de arquitetura de IA que utiliza duas redes neurais – um gerador e um discriminador – treinadas em oposição uma à outra. As GANs são projetadas para gerar conteúdo sintético que se assemelha muito aos dados do mundo real.
O gerador cria resultados sintéticos com base em padrões aprendidos a partir dos dados de treinamento, enquanto o discriminador avalia se uma amostra é autêntica ou gerada por IA. Durante o treinamento, os dois modelos competem continuamente: o gerador tenta produzir resultados cada vez mais convincentes, enquanto o discriminador tenta detectar se esses resultados são falsos. Esse processo é conhecido como treinamento adversarial.
Esse processo de treinamento adversarial continua até que os resultados gerados se tornem difíceis de distinguir, de forma confiável, dos dados autênticos pelo discriminador. A eficácia das GANs decorre desse ciclo constante de retroalimentação.
Em termos mais simples, trata-se de duas redes neurais competindo entre si: uma aprende a criar dados sintéticos, enquanto a outra aprende a detectá-los. Ao competirem, ambos os modelos se aperfeiçoam simultaneamente, resultando frequentemente em mídia sintética altamente convincente, capaz de se assemelhar a imagens, vídeos ou áudios reais.
Usos comuns das redes adversariais generativas
As GANs são mais comumente associadas à síntese de imagens e à geração de deepfakes, embora também possam ser utilizadas para o aprimoramento de imagens, transferência de estilos, super-resolução, geração de vídeos e criação de dados sintéticos.
Entre as aplicações legítimas estão a geração de conjuntos de dados de treinamento para aprendizado de máquina, a restauração de imagens de baixa qualidade e o apoio à pesquisa em visão computacional. No entanto, as GANs também são amplamente associadas a aplicações maliciosas de IA generativa, especialmente na criação de deepfakes e identidades sintéticas.
GANs, fraude de identidade e verificação de identidade
No contexto da verificação de identidade, verificação de documentos e detecção de vida, as GANs podem ser utilizadas para gerar rostos sintéticos fotorrealistas, imagens de identidade manipuladas e meios biométricos fraudulentos.
Os agentes mal-intencionados podem utilizar imagens geradas por redes GAN que retratam pessoas inexistentes e combiná-las com documentos de identidade falsificados ou manipulados para criar identidades sintéticas. Esses ataques são projetados para contornar as verificações de identidade ao longo de todo o ciclo de vida da identidade digital — incluindo o cadastro de usuários, a autenticação e a recuperação de contas
A mídia gerada por GAN também pode ser usada para:
- Melhorar documentos de identidade falsos
- Aumentar o realismo das imagens utilizadas em ataques de apresentação e ataques de injeção
- Criar conteúdo deepfake com o objetivo de comprometer os sistemas de verificação de identidade.
Detecção de mídia gerada por GAN
À medida que as tecnologias de IA generativa avançam, distinguir entre mídia autêntica e sintética torna-se cada vez mais difícil para os sistemas tradicionais de detecção de fraudes.
A iProov utiliza a tecnologia patenteada de verificação de presença humana Flashmark para detectar mídias criadas por redes adversárias generativas. O aprendizado profundo e a visão computacional analisam certas características da presença humana genuína que são muito difíceis de serem reproduzidas por mídias sintéticas. Nossas soluções verificam se há uma pessoa real do outro lado da câmera. Para uma explicação mais técnica, acesse a página sobre o mecanismo de desafio-resposta aqui.
Ao incorporar uma detecção de presença robusta, as organizações podem distinguir entre mídia sintética e uma pessoa real efetivamente presente durante a autenticação.
Recursos relacionados à Rede Adversária Generativa
Para saber mais sobre como os fraudadores estão utilizando IA generativa, como as GANs, para burlar a verificação de identidade e facilitar a fraude de identidade sintética, leia nosso relatório “Stolen to Synthetic” aqui.
Leia mais: