17 septembre 2026
Publié sur GitHub sous licence Apache-2.0, iProov invite le secteur à examiner son approche visant à renforcer la gouvernance de l’IA agentique et à proposer des implémentations indépendantes de celle-ci.
iProov, leader mondial des solutions de vérification d'identité biométrique, a publié aujourd'hui la « Human Approval and Presence Specification » (HAPS), une spécification procédurale expérimentale destinée à la gestion des agents IA. La HAPS est conçue pour aider les organisations à vérifier qu'un être humain a bien approuvé une action spécifique avant qu'un agent IA ne soit autorisé à l'exécuter.
Publié sur GitHub sous licence Apache-2.0, HAPS consiste en un ensemble de règles élaborées pour répondre directement au besoin croissant d’une gouvernance plus stricte et d’un contrôle humain, à mesure que les agents d’IA deviennent de plus en plus capables d’agir de manière autonome au nom de leurs validateurs humains. La spécification comprend une implémentation de référence partielle en Rust ainsi que des vecteurs de test ; iProov invite les experts du secteur à examiner et à critiquer la spécification, à faire part de leurs commentaires et à explorer des implémentations indépendantes.
Bien que des failles de sécurité telles que celle survenue en faille d’OpenAI Hugging Face en juillet 2026 font la une des journaux, HAPS s’attaque à un problème plus discret : celui d’un agent qui, bien qu’il reste dans les limites de ses autorisations, effectue des actions non souhaitées, que ce soit par injection de prompt, par une recherche excessive d’objectifs ou par une utilisation abusive d’identifiants délégués. Le danger réside dans le fait que le système destinataire n’a aucun moyen de déterminer la légitimité de la requête.
Cela met en évidence une lacune majeure dans la gouvernance de l'IA : les agents IA peuvent accéder à des outils et à des services, mais cela ne prouve pas pour autant qu'un être humain ait voulu ou approuvé les actions qu'ils entreprennent. En tant que cadre prototype, HAPS est conçu pour permettre aux organisations et aux parties concernées d'exiger une approbation humaine vérifiable avant que des actions critiques puissent être menées à bien.
« Les agents d’IA passent rapidement du simple fait de répondre à des questions à celui d’agir en notre nom. À mesure que leur autonomie et leurs capacités s’accroissent, la gouvernance doit suivre le rythme », a déclaré Andrew Bud, fondateur et PDG d’iProov. « Nous devons faire la distinction entre un agent autorisé à agir et un être humain qui approuve effectivement l’action spécifique qu’il s’apprête à entreprendre. HAPS est une spécification qui rend cette approbation humaine vérifiable. Nous la publions ouvertement à ce stade expérimental, car le secteur doit relever ce défi ensemble. Nous invitons la communauté à l'examiner minutieusement, à la remettre en question et à s'en inspirer afin qu'ensemble, nous puissions mettre en place des garanties solides et pratiques pour un monde où l'IA agit de manière autonome. »
Intervention humaine dans les situations à haut risque
Le système HAPS n'a pas pour objectif d'exiger une validation humaine pour chaque action effectuée par un agent IA, car cela compromettrait les avantages de l'autonomie et risquerait d'entraîner une « lassitude face aux validations ». Au lieu de cela, ce sont les organisations qui déterminent quelles actions sont suffisamment sensibles et/ou critiques pour nécessiter une validation humaine supplémentaire, ainsi que le niveau de preuve approprié.
Lorsqu’une validation supplémentaire est requise, le principe est simple : suspendre l’action, montrer à la personne exactement ce que l’agent souhaite faire, obtenir la preuve d’une présence humaine réelle et d’une validation, puis vérifier cette preuve avant d’autoriser la poursuite de l’action. HAPS associe de manière sécurisée la validation de la personne à l’action spécifique, ce qui permet à l’organisation de vérifier que la validation correspond bien à ce que l’agent demande réellement de faire.
HAPS est indépendant de toute méthode de vérification et ne prescrit pas la manière dont la présence humaine doit être prouvée. iProov a développé sa propre implémentation interne en utilisant la vérification biométrique de la présence vivante comme exemple d’application pratique de la spécification, illustrant ainsi une approche résistante aux agents. De plus amples détails sur cette approche sont disponibles sur la page d’iProov consacrée à l’IA agentique.
Andrew Bud présentera les exigences de conception qui sous-tendent le projet HAPS lors de la conférence AGNTCon + MCPCon Europe, à Amsterdam, les 17 et 18 septembre.
La spécification HAPS, l'implémentation de référence et les supports de test sont désormais disponibles sur GitHub ici.
