Garantizar la aprobación humana de las acciones de la IA agentiva
Documento técnico
Garantizar la aprobación humana de las acciones de la IA agentiva
Vincula las acciones de IA de alto riesgo a una aprobación humana verificada.
Cuando un agente de IA lleva a cabo una acción de gran trascendencia, ¿cómo se comprueba que la persona adecuada la ha aprobado? Una credencial válida o una confirmación procedente de otro dispositivo pueden demostrar el acceso, pero la aprobación humana requiere pruebas vinculadas a la persona y a la decisión concreta.
Descarga este documento técnico de iProov para descubrir cómo unos controles de aprobación más estrictos pueden favorecer una autonomía responsable de la IA.
¿Qué se requiere para que los seres humanos aprueben las acciones de los agentes de IA?
En este documento se describen tres requisitos para las acciones de mayor riesgo:
- Prueba aportada por un ser humano físicamente presente: Prueba que tiene su origen más allá de la capacidad de actuación de un agente.
- Un canal de aprobación independiente: solicitudes y respuestas en las que el agente proponente no actúa como intermediario.
- La autorización está vinculada a la acción concreta: la justificación solo es válida para la persona, la acción y la operación autorizadas.
Lo que aprenderás
Descubre por qué los métodos de aprobación convencionales pueden resultar insuficientes, cómo la verificación de la presencia en vivo complementa la aprobación humana y por qué el nivel de certeza de la prueba debe ajustarse al riesgo que conlleva la acción.
Para los responsables de seguridad, riesgos e inteligencia artificial que foman la confianza en las decisiones importantes relacionadas con la inteligencia artificial.