Vos contacts sur les médias sociaux sont-ils des "Deepfakes" ? Est-il temps de vérifier l'identité sur les médias sociaux ?

Certains de vos contacts sur les médias sociaux peuvent avoir été générés par l'IA.

Non, vraiment - une étude récente de l'Observatoire de l'Internet de Stanford a révélé que plus de 1 000 faux profils se cachent sur LinkedIn... et il ne s'agit là que des résultats d'une étude portant sur un seul réseau social. L'étude a identifié des comptes créés à l'aide d'identités entièrement fictives et de fausses références en matière d'éducation et d'emploi.

Cette étude met en lumière quelques sujets de préoccupation : 

La menace des deepfakes et le danger qu'ils représentent pour la société, les gouvernements et les entreprises.

Les réseaux de médias sociaux devraient envisager d'urgence des méthodes permettant d'établir l'authenticité des utilisateurs afin de les protéger des menaces en ligne telles que les "deepfakes".

Les réseaux de médias sociaux sont exposés à des menaces telles que les attaques synthétiques évolutives, qui peuvent avoir de graves conséquences, comme la perte de confiance.

LinkedIn est récemment devenu le premier Le site web le plus ciblé par les attaques de phishingIl est maintenant temps de discuter sérieusement de la manière dont les réseaux sociaux peuvent améliorer la sécurité grâce à des formes d'assistance technique. la vérification de l'identité.

Que sont les Deepfakes et comment sont-ils utilisés sur les médias sociaux ?

Les "deepfakes" sont des vidéos ou des images synthétiques créées à l'aide d'un logiciel alimenté par l'intelligence artificielle. Ils sont souvent utilisés pour déformer l'image de personnes en les montrant en train de dire ou de faire des choses qu'elles n'ont pas dites ou faites. Les deepfakes ont été utilisés à des fins de farce et de divertissement, mais aussi à des fins plus malveillantes. Il est inquiétant de constater que le nombre de vidéos "deepfake" mises en ligne a plus que doubler d'une année sur l'autre.

Dans l'étude de l'Observatoire Internet Stanford de LinkedIn, les deepfakes ont été utilisés à des fins commerciales. Les comptes "deepfake" envoyaient des messages d'une entreprise légitime afin de présenter leur logiciel à des membres de LinkedIn peu méfiants, faisant ainsi des "deepfakes" un outil de vente. Cette pratique est bénéfique pour l'entreprise, car la création de nouveaux comptes deepfake permet de contourner la limite de messages imposée par LinkedIn.

Bien que cela puisse sembler relativement bénin, ce n'est que la surface d'un problème plus profond. Des comptes de médias sociaux utilisant des visages générés par ordinateur ont commis des actes plus graves.

Parmi les autres exemples, on peut citer

• Les "deepfakes" poussent à la désinformation politique.
• Les "deepfakes" harcèlent les activistes.
• Deepfakes escroquer un PDG de 243 000 dollars.

Ce qui fait des deepfakes une menace aussi dangereuse et évolutive, c'est en partie le fait que les gens ne peuvent pas les repérer. Certes, il peut y avoir des indices : l'emplacement et la couleur des yeux, des incohérences au niveau de la racine des cheveux et quelques étrangetés visuelles. 

Les données d'une enquête récente d'iProov ont révélé que 57 % des personnes interrogées dans le monde pensent pouvoir faire la différence entre une vraie vidéo et une deepfake, contre 37 % en 2019. Mais la vérité est que les deepfakes sophistiqués peuvent être vraiment impossibles à distinguer à l'œil humain. Pour vérifier véritablement un deepfake, les technologies d'apprentissage profond et de vision par ordinateur sont nécessaires pour analyser certaines propriétés, telles que la façon dont la lumière se reflète sur la peau réelle par rapport à la peau synthétique.

Les entreprises de médias sociaux ont le devoir de protéger leurs utilisateurs, leurs annonceurs et leurs employés contre ces menaces croissantes et évolutives. Heureusement, il existe une solution.

Comment la vérification de l'identité peut-elle établir la confiance en ligne et dans les médias sociaux ?

Nous avons établi que les diverses applications des "deepfakes" par des acteurs malveillants peuvent être graves. Mais le véritable danger à long terme des deepfakes est l'érosion de la confiance en ligne. l'érosion de la confiance en ligne. Les preuves vidéo deviendront moins dignes de confiance, ce qui conduira à un déni plausible : "Ce n'était pas moi", pourrait-on dire, "c'est un deepfake !".

La menace du deepfake se résume à une question : Comment peut-on être sûr que quelqu'un est bien celui qu'il prétend être en ligne ? Laréponse est la vérification de l'identité numérique. Le moyen d'identification le plus sûr, le plus pratique et le plus fiable est la biométrie, en particulier la vérification biométrique du visage, la vérification biométrique faciale

La vérification de l'identité numérique fait déjà partie de notre vie en ligne. Les processus quotidiens nécessitent déjà une vérification, comme par exemple :

• Ouvrir un compte bancaire
• S'inscrire à des programmes d'aide gouvernementaux
• Vérification de l'identité pour les voyages

Ces exemples nous obligent à prouver qui nous sommes pour accomplir des tâches importantes en ligne. Pourtant, les médias sociaux sont une sphère où la vérification de l'identité est absente. N'importe qui - ou n'importe quoi, dans le cas des deepfakes et bots - peut créer un compte sur les médias sociaux et apparemment faire ce qu'il veut, sans grande crainte que cela ne remonte jusqu'à lui.

Une option pour les réseaux de médias sociaux est d'introduire la responsabilité en ligne par le biais de la vérification du visage, en s'assurant que la personne qui crée un compte de médias sociaux est bien celle qu'elle prétend être. Plusieurs entreprises du secteur des rencontres en ligne, comme Tinder, se sont tournées vers la vérification d'identité comme nous l'avions prédit en 2020 et 2021. La forme que prendra cette vérification dépendra du réseau. La vérification de l'identité pourrait être facultative, en accordant à l'utilisateur une icône "identité vérifiée" comme sur Tinder. l'icône "identité vérifiée" comme sur Tinder.

Les avantages de la vérification d'identité pour les réseaux de médias sociaux

• Réduction du volume de spam, de deepfakes et de comptes robots sur les réseaux sociaux. 
• Amélioration de l'expérience, de l'assurance et de la sécurité pour les utilisateurs - nous saurons que nous interagissons avec un être humain vérifié.
• Permet de repérer et de prévenir les abus graves, la fraude et l'ingénierie sociale sur les réseaux sociaux.
• Aide les utilisateurs des médias sociaux à se sentir plus en sécurité en ligne.
• Défend la réputation des réseaux de médias sociaux, car ils sont perçus comme prenant des mesures pour protéger les utilisateurs en ligne.

Comment le Liveness et le Dynamic Liveness peuvent-ils combattre les Deepfakes et aider le secteur des médias sociaux ?

Les "deepfakes" constituent une menace unique et difficile qui nécessite une solution unique. C'est pourquoi la technologie biométrique brevetée d'iProov, Dynamic Liveness, est conçue pour offrir une protection avancée contre les deepfakes et autres attaques synthétiques ou numériques injectées.

Si les réseaux de médias sociaux choisissent de mettre en œuvre une technologie pour authentifier l'identité d'un utilisateur en ligne et se protéger contre les "deepfakes", ils devront s'assurer qu'ils choisissent la bonne technologie. La détection du caractère vivant est un élément important du processus de vérification de l'identité, mais tous les cas de figure ne se valent pas.

La solution Dynamic Liveness d'iProov offre tous les avantages de la détection du caractère vivant, en offrant une plus grande précision pour déterminer si l'utilisateur est la bonne personne et une personne réelle. Mais Dynamic Liveness vérifie également que l'utilisateur s'authentifie en ce moment même, ce qui offre une protection supplémentaire contre les attaques par injection numérique qui utilisent des des deepfakes ou d'autres médias synthétiques.

L'avantage supplémentaire de la mise en œuvre de Dynamic Liveness est qu'elle peut être utilisée pour l'authentification continue sur les médias sociaux. Chaque fois que les utilisateurs reviennent pour utiliser l'application, ils présentent leur visage et prouvent qu'ils sont la bonne personne, une personne réelle, et qu'ils s'authentifient en ce moment même. Cela signifie que personne d'autre ne pourra jamais accéder à ce compte, ni envoyer de messages, ni effectuer des opérations d'authentification. toute activité qu'ils insistent ensuite sur le fait qu'ils n'ont pas fait. 

iProov fonctionne sur n'importe quel appareil doté d'une caméra orientée vers l'utilisateur - il ne nécessite pas de matériel spécialisé pour l'authentification, ce qui garantit une accessibilité et une inclusivité maximales pour les utilisateurs finaux. En outre, la GPA est livrée avec Centre d'opérations de sécurité iProov (iSOC)-iSOC utilise une technologie avancée d'apprentissage automatique pour surveiller les opérations quotidiennes et assurer la résilience contre les nouvelles attaques sophistiquées.

Nous sommes dans une course aux armements entre les générateurs de deepfakes et les détecteurs de deepfakes, et les entreprises telles que LinkedIn doivent donner la priorité à leurs mesures de sécurité et réfléchir à la manière dont elles peuvent protéger leurs clients contre les attaques. En fin de compte, la technologie Dynamic Liveness protège contre les deepfakes en garantissant que l'utilisateur en ligne est une personne réelle qui s'authentifie en ce moment même.

Médias sociaux, Deepfakes et vérification de l'identité numérique : Résumé

• Les "deepfakes" sont utilisés sur les réseaux sociaux, les sites de médias sociaux étant la cible d'hameçonnage (par lequel des personnes divulguent des informations par inadvertance, souvent à la suite d'une manipulation).
• Si certaines utilisations des deepfakes sur les médias sociaux sont relativement bénignes, d'autres sont dangereuses : désinformation politique, harcèlement, etc.
• Les plateformes de médias sociaux doivent protéger leurs utilisateurs. La vérification de l'identité permet de rassurer, de sécuriser et de protéger contre le harcèlement et la désinformation. 
• Les réseaux de médias sociaux peuvent mettre en œuvre la vérification de l'identité de plusieurs manières. La vérification de l'identité pourrait être facultative, en accordant à l'utilisateur une icône "identité vérifiée" comme sur Tinder. l'icône "identité vérifiée", comme sur Tinder.
• La solution Dynamic Liveness d'iProov permet aux organisations de vérifier l'identité numérique des utilisateurs, avec une protection contre les deepfakes et autres médias synthétiques. 
• Cela permettrait d'améliorer l'expérience des utilisateurs des médias sociaux et de renforcer la confiance, la sécurité et la sûreté des utilisateurs. En outre, l'introduction de la vérification de l'identité numérique peut contribuer à défendre la réputation des marques de médias sociaux, car elles sont perçues comme prenant des mesures pour protéger les utilisateurs en ligne.

En savoir plus : La menace Deepfake

Réservez votre Démonstration iProov ou contactez-nous contactez-nous.