Rede Adversária Generativa (GAN)
Uma Rede Adversária Generativa (GAN) é um tipo de arquitetura de modelo de IA generativa que consiste em duas redes neurais - um gerador e um discriminador - treinadas em oposição uma à outra.
O modelo generativo cria conteúdo com base nos dados de treinamento disponíveis para imitar os exemplos nos dados de treinamento. Enquanto isso, um modelo discriminativo testa os resultados do modelo generativo avaliando a probabilidade de a amostra testada ser proveniente do conjunto de dados e não do modelo generativo. Esse é o treinamento contraditório.
Em termos mais simples, trata-se de duas redes neurais competindo, uma criando dados falsos e a outra tentando identificar as falsificações. Isso acaba resultando em um conteúdo sintético altamente convincente.
Os modelos continuam a se aperfeiçoar até que o conteúdo gerado tenha a mesma probabilidade de vir do modelo generativo que os dados de treinamento. Esse método é tão eficaz porque aprimora o resultado de sua própria autenticidade, verificando constantemente as próprias ferramentas projetadas para enganá-lo. Esse processo de treinamento contraditório continua até que o gerador produza resultados plausíveis o suficiente para enganar o discriminador. Os GANs são comumente usados para tarefas de síntese de imagens, como a criação de deepfakes, rostos humanos fotorrealistas e aprimoramento de imagens fotográficas.
Os agentes de ameaças utilizam os GANs para fins maliciosos, por exemplo, para criar imagens sintéticas que tornam as identidades sintéticas mais plausíveis. Imagens sintéticas de um rosto que retrata uma pessoa inexistente são geradas usando essa tecnologia e combinadas com IDs falsas para contornar a biometria facial durante a integração e em todo o ciclo de vida do usuário.
Para detectar a mídia criada por redes adversárias generativas, o iProov utiliza a tecnologia biométrica patenteada de desafio-resposta passiva com tecnologias de aprendizagem profunda e visão computacional para analisar determinadas propriedades que a mídia generativa criada por IA não pode recriar, pois não há uma pessoa real do outro lado da câmera. É por isso que hter uma biometria em tempo real incorporada à tecnologia de vivacidade é fundamental para que as organizações possam distinguir entre mídia sintética e pessoas reais.
Para saber mais sobre como os fraudadores estão aproveitando a IA generativa, como os GANs, para minar a verificação de identidade e reforçar a fraude de identidade sintética, leia nosso relatório "Stolen to Synthetic" aqui.
Leia mais: