22 septembre 2023

Partout dans le monde, les gouvernements, les décideurs politiques et les régulateurs s'intéressent à l'intelligence artificielle générative (IA). Cette technologie réduit considérablement les obstacles technologiques à la création d'images, de vidéos et de sons falsifiés très réalistes.

Avec le développement de l'IA générative, il sera de plus en plus difficile de faire la distinction entre un contenu réel et un contenu manipulé, ce qui entraînera une désinformation, une propagande et une tromperie à grande échelle. Cela risque d'éroder la confiance et de brouiller les frontières entre la réalité et la fiction, remettant finalement en cause la fonction d'une société civile efficace.

Dans cet article, nous abordons le thème de l'IA générative, ainsi que les outils, méthodes et technologies disponibles pour lutter contre cette menace croissante.

Pourquoi l'IA générative représente-t-elle une menace croissante ?

L'IA n'est pas intrinsèquement nuisible - il existe de nombreuses applications bénéfiques et positives. Toutefois, un certain nombre de facteurs suscitent une inquiétude croissante quant à l'utilisation de ses vastes capacités à des fins malveillantes :

  • Le volume des attaques de cybersécurité basées sur la technologie de l'IA augmente à un rythme alarmant : Par exemple, iProov a révélé que les attaques par échange de visages sont de plus en plus fréquentes : notre rapport Biometric Threat Intelligence Report souligne que les échanges de visages ont augmenté de 295 % entre le premier et le deuxième semestre 2022.
  • La cybercriminalité fondée sur l'IA est devenue beaucoup plus accessible et évolutive : Des criminels peu qualifiés ont accès aux ressources nécessaires pour lancer des attaques sophistiquées à faible coût, voire gratuitement, en ligne. Il est donc plus facile pour les mauvais acteurs de prendre pied dans les systèmes d'information et de cybersécurité des organisations. De même, l'accessibilité de cette technologie peut permettre aux fraudeurs de convaincre les individus qu'ils interagissent avec une personne authentique, ce qui favorise la cybercriminalité et la fraude.
  • La sophistication de l'IA générative se développe rapidement, et les gens ne peuvent plus détecter les "deepfakes". les gens ne peuvent plus repérer les deepfakes: Les médias synthétiques ont atteint le stade où il estimpossible de faire la distinction entre ce qui est faux et ce qui est réel à l'œil nu - l'inspection manuelle n'est donc pas une solution viable. De même, les approches qui font peser sur les gens la responsabilité de repérer les médias synthétiques n'auront qu'un impact limité.
  • Croissance de la criminalité en tant que service : L'IA générative donne du pouvoir aux mauvais acteurs, et la disponibilité d'outils en ligne accélère l'évolution du paysage des menaces. Les criminels peuvent ainsi lancer des attaques avancées plus rapidement et à plus grande échelle. Si les attaques réussissent, leur volume et leur fréquence augmentent rapidement à mesure qu'elles sont partagées entre les réseaux établis de crime-as-a-service ou sur le darkweb, ce qui amplifie le risque de dommages graves.
  • la perception du public et la désinformation : L'IA générative ne menace pas seulement les organisations ou les gouvernements, mais aussi l'écosystème de l'information et l'économie elle-même. Cela a déjà des effets dans le monde réel : par exemple, récemment, une image générée par l'IA d'une explosion au Pentagone a provoqué une brève chute du marché boursier.

Les impacts de l'IA générative sur la société sont infinis : fraude aux prestations du secteur public, fraude aux nouveaux comptes, identité synthétique, fraude, fraude électorale, désinformation, bots trompeurs dans les médias sociaux, robocalls, et bien d'autres encore.

Les dangers liés à la combinaison de différents types d'IA - tels que l'imagerie, la voix et le texte - constituent une menace synergique de technologies en évolution rapide qui peuvent être utilisées conjointement pour avoir un impact massif. Pour en savoir plus sur les risques critiques et urgents des usurpations de voix en particulier, cliquez ici.

La tendance inquiétante de l'IA générative a attiré l'attention des gouvernements et des décideurs politiques du monde entier

Prenons quelques exemples :

En fin de compte, on assiste aujourd'hui à une course aux armements entre les utilisations destructrices de l'IA générative et les outils dont nous disposons pour nous en défendre. Le résultat potentiel est une crise d'identité à l'ère numérique, où le public ne peut pas faire confiance aux médias ou aux fonctionnaires.

Réponse d'iProov à la protection contre les menaces de l'IA générative

Il sera de plus en plus difficile pour les gouvernements, les entreprises, les journalistes et le grand public de combattre ou de repérer la fraude, la désinformation et la cybercriminalité. Ceci est particulièrement pertinent à l'approche de nombreuses élections politiques majeures à travers le monde.

Que peuvent donc faire les gouvernements et les décideurs politiques ? Quelles sont les réglementations et les technologies disponibles ? En résumé :

  • La vérification biométrique de l'identité faciale, avec contrôle de la présence et des menaces actives, est essentielle: à une époque où les technologies traditionnelles et l'œil humain ne peuvent plus vérifier l'authenticité d'une personne à distance, la vérification biométrique de l'identité est nécessaire pour s'assurer qu'une personne est le véritable propriétaire de son identité, de son contenu et de sa position. Les solutions les plus efficaces intègrent une technologie de reconnaissance critique avec une biométrie à usage unique et une gestion active des menaces, qui permet de déterminer si l'image présentée est celle d'une personne réelle et si cette personne est effectivement présente au moment où les informations sont saisies.
  • L'accueil et l'authentification à distance devraient être davantage sécurisés : La vérification biométrique du visage s'est imposée comme le moyen le plus sûr et le plus pratique de vérifier l'identité en ligne, les méthodes traditionnelles telles que les mots de passe et les codes à usage unique ayant échoué. Toutefois, face à l'IA générative, il est essentiel que les capacités d'identification soient évaluées de manière approfondie. Il ne suffit pas d'être bon ; la sécurité doit être primordiale pour les organisations.
  • La réglementation doit établir des garde-fous pour la majorité morale : Il est essentiel d'établir des cadres juridiques pour traiter les implications éthiques et sociales de l'IA générative et des médias synthétiques. Cela permet aux forces de l'ordre de cibler les méchants avec des directives claires, tout en fournissant des moteurs commerciaux pour traiter les incitations des plateformes. iProov a soumis sa réponse PCAST sur ce sujet à divers gouvernements et décideurs politiques à travers le monde.

Approche gouvernementale et politique de l'IA : un résumé

En fin de compte, l'IA générative présente un risque important pour la société. Il est urgent de mettre en place une politique et une réglementation claires afin d'établir des garde-fous, d'aligner la majorité morale et d'orienter la réponse des organisations.

La technologie biométrique et de vérification de l'identité constitue une bouée de sauvetage essentielle pour les gouvernements et les autres organisations qui doivent s'assurer de l'identité des personnes à l'ère de l'imagerie et de l'information synthétiques et falsifiées.

Mais n'importe quelle technologie de vérification ne fera pas l'affaire. À mesure que l'IA générative progresse, les défenses devront suivre le rythme : les solutions critiques qui évoluent en permanence sont essentielles.

iProov a publié son rapport intitulé "Crise d'identité à l'ère numérique : utiliser la biométrie scientifique pour lutter contre l'IA générative". Nous y examinons l'aspect criminel de l'IA générative, discutons du "déficit de confiance" qui menace de saper la capacité des nations à atteindre les objectifs de développement durable, et donnons des conseils sur la technologie et les processus nécessaires pour lutter contre cette menace.

Vous pouvez également réserver une démonstration de la solution iProov ici aujourd'hui.

L'IA générative dans le secteur public - et le rôle de la biométrie faciale
Table des matières