Control de las acciones de alto riesgo de los agentes de IA
Documento técnico
Control de las acciones de alto riesgo de los agentes de IA
Adapta la aprobación de las personas a las consecuencias de la acción.
Los agentes de IA necesitan una autoridad clara para actuar de forma independiente. Las organizaciones deben definir en qué casos dicha autoridad requiere la aprobación verificada de una persona.
Este documento técnico de iProov analiza cómo controlar las acciones de los agentes de IA que tienen consecuencias importantes, al tiempo que se mantiene la productividad de la automatización rutinaria.
¿En qué casos deberían los agentes de IA necesitar la aprobación de una persona verificada?
En este artículo se identifican tres interacciones que requieren la evidencia más sólida de la aprobación humana:
- Establecer o modificar permisos: asignar a una persona responsable a la autoridad que puede ejercer un agente.
- Aprobación de acciones de alto riesgo: Exigir la aprobación de la acción concreta cuando esta exceda los permisos habituales o cuando la política exija una revisión por parte de una persona.
- Establecimiento de la responsabilidad humana: Vincular la identidad de un agente a la persona o personas responsables de sus acciones y autorizadas para darle instrucciones.
Lo que aprenderás
Descubre cómo establecer límites de autorización, remitir las acciones con repercusiones para su aprobación humana y asignar la responsabilidad de las decisiones relacionadas con el riesgo. Comprende en qué casos una verificación más rigurosa aporta valor añadido y cómo unos controles proporcionados pueden ayudar a limitar la «fatiga de aprobación».
Para los responsables de seguridad, riesgos e inteligencia artificial que ponen en práctica una autonomía de la IA responsable.