12 février 2025
La plupart des consommateurs ne parviennent pas à identifier les contrefaçons générées par l'IA;
Faites le test de détection de Deepfake
Nouvelle recherche de iProovle premier fournisseur mondial de solutions scientifiques pour la vérification de l'identité biométrique.révèle que la plupart des gens ne peuvent pas identifier les "deepfakes", ces vidéos et images incroyablement réalistes générées par l'IA et souvent conçues pour usurper l'identité d'une personne. L'étude a testé 2 000 consommateurs britanniques et américains, en les exposant à une série de contenus réels et de deepfakes. Les résultats sont alarmants : seuls 0,1 % des participants ont pu distinguer avec précision les contenus réels des contenus truqués sur l'ensemble des stimuli, y compris les images et les vidéos.
Principales conclusions :
- La détection des "deepfakes" échoue : Seulement 0,1 % des personnes interrogées ont correctement identifié tous les deepfakes et les stimuli réels (par exemple, les images et les vidéos) dans le cadre d'une étude où les participants ont été entraînés à rechercher les "deepfakes". Dans le monde réel, où les gens sont moins conscients, la vulnérabilité aux "deepfakes" est probablement encore plus élevée.
- Les générations plus âgées sont plus vulnérables aux "deepfakes" : L'étude a révélé que 30 % des 55-64 ans et 39 % des 65 ans et plus n'avaient jamais entendu parler des "deepfakes", ce qui met en évidence un manque de connaissances important et une vulnérabilité accrue de ce groupe d'âge face à cette nouvelle menace.
- Défi vidéo : Les fausses vidéos se sont révélées plus difficiles à identifier que les fausses images, les participants étant 36 % moins susceptibles d'identifier correctement une vidéo synthétique qu'une image synthétique. Cette vulnérabilité soulève de sérieuses inquiétudes quant au potentiel de fraude par vidéo, comme l'usurpation d'identité lors d'appels vidéo ou dans des scénarios où la vérification vidéo est utilisée pour vérifier l'identité.
- Les "deepfakes" sont omniprésents mais mal compris : Bien que les inquiétudes concernant les deepfakes augmentent, nombreux sont ceux qui ne connaissent pas cette technologie. Un consommateur sur cinq (22 %) n'avait jamais entendu parler des deepfakes avant l'étude.
- L'excès de confiance est endémique : En dépit de leurs piètres performances, les gens sont restés excessivement confiants dans leurs compétences en matière de détection des "deepfakes" à plus de 60 %, que leurs réponses soient correctes ou non. C'est particulièrement le cas chez les jeunes adultes (18-34 ans). Ce faux sentiment de sécurité est très préoccupant.
- La confiance en prend un coup : Les plateformes de médias sociaux sont considérées comme des terrains propices aux deepfakes, Meta (49 %) et TikTok (47 %) étant considérés comme les endroits les plus courants où l'on peut trouver des deepfakes en ligne. Cette situation a entraîné une perte de confiance dans les informations et les médias en ligne : 49 % des personnes interrogées font moins confiance aux médias sociaux après avoir pris connaissance des "deepfakes". Seule une personne sur cinq signalerait un deepfake suspecté aux plateformes de médias sociaux.
- Les "deepfakes" suscitent une inquiétude et une méfiance généralisées, en particulier chez les adultes plus âgés : Trois personnes sur quatre (74 %) s'inquiètent de l'impact sociétal des deepfakes, les "fake news" et la désinformation étant la principale préoccupation (68 %). Cette crainte est particulièrement prononcée chez les générations plus âgées, puisque jusqu'à 82 % des personnes âgées de plus de 55 ans se disent inquiètes de la diffusion de fausses informations.
- De meilleurs mécanismes de sensibilisation et de signalement sont nécessaires : Moins d'un tiers des personnes (29 %) ne prennent aucune mesure lorsqu'elles sont confrontées à un deepfake présumé, ce qui s'explique très probablement par le fait que 48 % d'entre elles déclarent ne pas savoir comment signaler les deepfakes, tandis qu'un quart d'entre elles ne se soucient pas de savoir si elles voient un deepfake présumé.
- La plupart des consommateurs ne vérifient pas activement l'authenticité des informations en ligne, ce qui les rend plus vulnérables aux "deepfakes" : Malgré la menace croissante de la désinformation, seul un consommateur sur quatre recherche d'autres sources d'information s'il soupçonne un deepfake. Seuls 11 % des gens analysent de manière critique la source et le contexte de l'information pour déterminer s'il s'agit d'un deepfake, ce qui signifie qu'une grande majorité est très vulnérable à la tromperie et à la diffusion de faux récits.
Le professeur Edgar Whitley, expert en identité numérique à la London School of Economics and Political Science, ajoute : "Les experts en sécurité mettent en garde contre les menaces que représentent les deepfakes pour les particuliers comme pour les organisations depuis un certain temps déjà : Les experts en sécurité mettent en garde depuis un certain temps contre les menaces que représentent les "deepfakes" pour les particuliers comme pour les organisations. Cette étude montre que les organisations ne peuvent plus compter sur le jugement humain pour repérer les deepfakes et doivent se tourner vers d'autres moyens d'authentifier les utilisateurs de leurs systèmes et services".
"Seulement 0,1 % des personnes ont pu identifier avec précision les deepfakes, ce qui souligne à quel point les organisations et les consommateurs sont vulnérables à la menace de fraude d'identité à l'ère des deepfakes", déclare Andrew Bud, fondateur et PDG d'iProov. "Et même lorsque les gens soupçonnent l'existence d'un deepfake, notre étude montre que la grande majorité d'entre eux n'entreprend aucune action. Les criminels exploitent l'incapacité des consommateurs à distinguer les images réelles des images truquées, mettant ainsi en péril nos informations personnelles et notre sécurité financière. Il incombe aux entreprises technologiques de protéger leurs clients en mettant en œuvre des mesures de sécurité solides. L'utilisation de la biométrie faciale avec liveness fournit un facteur d'authentification fiable et donne la priorité à la fois à la sécurité et au contrôle individuel, garantissant que les organisations et les utilisateurs peuvent suivre le rythme et rester protégés contre ces menaces en constante évolution".
La menace croissante des "deepfakes
Les deepfakes représentent une menace écrasante dans le paysage numérique actuel et ont évolué à un rythme alarmant au cours des 12 derniers mois. Le rapport 2024 Threat Intelligence Report d'iProov a mis en évidence une augmentation de 704 % des échanges de visages (un type de deepfake) à eux seuls. Leur capacité à usurper de manière convaincante l'identité d'une personne en fait un outil puissant pour les cybercriminels, qui peuvent ainsi obtenir un accès non autorisé à des comptes et à des données sensibles. Les deepfakes peuvent également être utilisés pour créer des identités synthétiques à des fins frauduleuses, telles que l'ouverture de faux comptes ou la demande de prêts. Cela pose un défi de taille à la capacité des humains à discerner le vrai du faux et a de vastes implications pour la sécurité, la confiance et la diffusion de fausses informations.
Que peut-on faire ?
Les deepfakes devenant de plus en plus sophistiqués, les humains ne peuvent plus à eux seuls distinguer de manière fiable le vrai du faux et doivent s'en remettre à la technologie pour les détecter. Pour lutter contre la menace croissante des deepfakes, les organisations devraient chercher à adopter des solutions qui utilisent une technologie biométrique avancée avec détection de la vivacité, qui vérifie que qu'un individu est la bonne personne, une vraie personne, et qu'il est en train de s'authentifier en ce moment même.. Ces solutions devraient inclure une détection permanente des menaces et une amélioration continue des mesures de sécurité afin de rester à l'avant-garde des techniques de deepfake en constante évolution. Les fournisseurs de technologie, les plateformes et les décideurs politiques doivent également collaborer davantage pour mettre au point des solutions qui atténuent les risques posés par les "deepfakes".
Faites le test de détection de Deepfake
Vous pensez être à l'abri de la tromperie deepfake ? iProov a créé un quiz en ligne qui vous met au défi de distinguer le vrai du faux. Répondez au questionnaire et découvrez votre score.
