Rete avversaria generativa (GAN)
Una rete generativa avversaria (GAN) è un tipo di architettura di IA generativa che utilizza due reti neurali – un generatore e un discriminatore – addestrate in modo da opporsi l'una all'altra. Le GAN sono progettate per generare contenuti sintetici che assomigliano molto ai dati del mondo reale.
Il generatore crea output sintetici basati su modelli appresi dai dati di addestramento, mentre il discriminatore valuta se un campione sia autentico o generato dall'intelligenza artificiale. Durante l'addestramento, i due modelli sono in continua competizione: il generatore cerca di produrre output sempre più convincenti, mentre il discriminatore cerca di individuare se tali output siano falsi. Questo processo è noto come addestramento avversario.
Questo processo di addestramento avversario prosegue finché i risultati generati non diventano difficili da distinguere in modo affidabile dai dati autentici per il discriminatore. L'efficacia delle GAN deriva proprio da questo ciclo di feedback continuo.
In parole povere, si tratta di due reti neurali in competizione tra loro: una impara a generare dati sintetici, mentre l'altra impara a individuarli. Grazie a questa competizione, entrambi i modelli migliorano contemporaneamente, dando spesso origine a contenuti sintetici estremamente realistici, in grado di assomigliare a immagini, video o audio autentici.
Usi comuni delle reti generative avversarie
Le reti GAN sono solitamente associate alla sintesi di immagini e alla generazione di deepfake, sebbene possano essere utilizzate anche per il miglioramento delle immagini, il trasferimento di stile, la super-risoluzione, la generazione di video e la creazione di dati sintetici.
Tra le applicazioni legittime figurano la generazione di set di dati di addestramento per l'apprendimento automatico, il ripristino di immagini di bassa qualità e il supporto alla ricerca nel campo della visione artificiale. Tuttavia, le GAN sono anche ampiamente associate ad applicazioni dannose dell'intelligenza artificiale generativa, in particolare alla creazione di deepfake e identità sintetiche.
GAN, frodi d'identità e verifica dell'identità
Nel contesto della verifica dell'identità, della verifica dei documenti e del rilevamento della vitalità, le GAN possono essere utilizzate per generare volti sintetici fotorealistici, immagini di identità manipolate e dati biometrici fraudolenti.
Gli autori delle minacce possono utilizzare immagini generate da reti GAN che raffigurano persone inesistenti e combinarle con documenti d'identità falsificati o manipolati per creare identità sintetiche. Questi attacchi sono progettati per aggirare i controlli di identità durante l'intero ciclo di vita dell'identità digitale , comprese la registrazione degli utenti, l'autenticazione e il recupero dell'account
I contenuti multimediali generati da GAN possono essere utilizzati anche per:
- Migliorare i documenti d'identità falsi
- Migliorare il realismo delle immagini utilizzate negli attacchi di tipo "presentation" e negli attacchi di tipo "injection"
- Creare contenuti deepfake con l'obiettivo di compromettere i sistemi di verifica dell'identità.
Rilevamento di contenuti multimediali generati da GAN
Con il progredire delle tecnologie di IA generativa, distinguere tra contenuti autentici e sintetici diventa sempre più difficile per i sistemi tradizionali di rilevamento delle frodi.
iProov utilizza una tecnologia brevettata di verifica della presenza umana (liveness) basata su Flashmark per individuare contenuti multimediali generati da reti generative avversarie. Il deep learning e la visione artificiale analizzano determinate caratteristiche della presenza umana autentica che sono molto difficili da riprodurre per i contenuti sintetici. Le nostre soluzioni verificano se dall'altra parte della telecamera si trovi una persona reale. Per una spiegazione più tecnica, visita la pagina dedicata al meccanismo challenge-response qui.
Grazie all'integrazione di un sistema affidabile di rilevamento della presenza, le organizzazioni possono distinguere tra immagini sintetiche e una persona reale effettivamente presente durante la procedura di autenticazione.
Risorse correlate sulle reti generative avversarie
Per saperne di più su come i truffatori stiano sfruttando l'intelligenza artificiale generativa, come le GAN, per eludere i controlli di identità e favorire le frodi basate su identità sintetiche, leggi il nostro rapporto "Stolen to Synthetic" qui.
Per saperne di più: