Encyclopédie biométrique

IA générative

L'IA générative fait référence aux systèmes d'intelligence artificielle capables de générer de nouvelles données, telles que des images, du son, du texte et des médias synthétiques, plutôt que de se contenter d'analyser des données existantes. Elle utilise des modèles d'apprentissage automatique tels que les réseaux adversaires génératifs (GAN) et les modèles de diffusion formés sur de vastes ensembles de données pour produire de nouveaux résultats qui imitent les schémas des données d'apprentissage.

Les applications courantes de l'IA générative comprennent la création de deepfakes (par ex, échanges de visages ou clonage de voix), la création d'images photoréalistes, la génération de musique et d'œuvres d'art, et la production de textes d'apparence humaine. Tout en offrant de nouvelles possibilités créatives, la capacité de l'IA générative à produire des médias synthétiques très réalistes introduit également des risques en matière de désinformation, d'usurpation d'identité et d'escroquerie, contre lesquels la détection robuste de l'authenticité doit se défendre.

L'IA générative a révolutionné le domaine des médias synthétisés, permettant la création d'échanges de visages très réalistes et d'autres contenus similaires.

Quelle est la différence entre les Deepfakes et l'IA générative ?

Le terme deepfake a été historiquement utilisé pour désigner l'imagerie synthétique créée à l'aide de réseaux neuronaux profonds. Dans la pratique, l'IA générative et les deepfakes sont souvent utilisés de manière interchangeable car ils se chevauchent largement. interchangeables car ils se recoupent largement, mais un deepfake fait plus probablement référence à une vidéo, une image ou un morceau de son utilisé à des fins malveillantes. audio utilisés à des fins malveillantes.

En revanche, l'IA générative englobe les résultats sur n'importe quel support (y compris le texte, comme les modèles de langage [LLM] tels que ChatGPT) à n'importe quelle fin. En bref, les deepfakes sont un sous-ensemble de l'IA générative.

Que pouvons-nous faire pour lutter contre les attaques de l'IA générative ?

Pour détecter les médias synthétiques créés à l'aide de l'IA générative, il est essentiel de disposer de technologies de vérification qui utilisent l'IA contre l'IA.

Associée à la vérification biométrique du visage, l'IA améliore la précision, la sécurité et la rapidité du processus de vérification de l'identité. Les utilisateurs peuvent vérifier leur identité à distance en scannant le document de confiance d'une personne et son visage. Des modèles d'apprentissage profond tels que les réseaux neuronaux convolutifs (CNN) détectent et font correspondre les images. En même temps, détection de l'authenticité utilise la vision par ordinateur pour s'assurer que l'image représente une personne réelle et non une contrefaçon non vivante, telle qu'un deepfake, un masque ou un autre média synthétique.

La vérification biométrique du visage reste l'une des méthodes les plus fiables et les plus pratiques pour vérifier l'identité à distance et se défendre contre les attaques générées par l'IA. Cependant, toutes les technologies biométriques faciales ne sont pas toutes égales. Les fournisseurs doivent mettre en œuvre des mécanismes passifs robustes de défi-réponse pour s'assurer qu'un individu à distance est bien une personne réelle et qu'il procède à la vérification en temps réel. Pour ce faire, une technologie basée sur la science et tirant parti de l'intelligence artificielle est nécessaire pour détecter en toute confiance qu'un individu est une personne "vivante" (et non une usurpation d'identité générée par l'IA), qu'il est réellement présent et qu'il vérifie son identité en temps réel.

Le mécanisme passif de défi-réponse d'iProov est le suivant Flashmark - La nature aléatoire de la technologie la rend imprévisible, imperméable aux attaques par rejeu (lorsque les acteurs de la menace injectent des tentatives d'authentification antérieures pour contourner le système) et improbable à rétroconcevoir. C'est le seul moyen d'atténuer l'IA générative et les attaques par injection numérique en détectant une présence authentique avec une grande assurance.

Pour en savoir plus :