Artigo técnico

Controlo das ações de alto risco dos agentes de IA

Ajustar a aprovação humana às consequências da ação.

Os agentes de IA precisam de autoridade clara para operarem de forma independente. As organizações têm de definir em que casos essa autoridade requer a aprovação humana comprovada.

Este documento técnico da iProov analisa como gerir as ações de agentes de IA com consequências significativas, preservando simultaneamente a produtividade da automatização de tarefas rotineiras.

Em que circunstâncias é que os agentes de IA devem necessitar de aprovação humana verificada?

Este artigo identifica três interações que exigem as provas mais sólidas de aprovação humana:

• Definir ou alterar permissões: Associar uma pessoa responsável à autoridade que um agente pode exercer.
• Aprovação de ações de alto risco: Exigir a aprovação da ação específica quando esta exceder as autorizações permanentes ou quando a política exigir uma revisão por parte de um utilizador.
• Estabelecer a responsabilidade humana: associar a identidade de um agente à pessoa ou pessoas responsáveis pelas suas ações e autorizadas a dar-lhe instruções.

O que irá aprender

Descubra como definir limites de autorização, encaminhar ações com consequências mais graves para aprovação humana e atribuir a responsabilidade pelas decisões relacionadas com o risco. Compreenda em que situações uma verificação mais rigorosa acrescenta valor e como controlos proporcionados podem ajudar a limitar a «fadiga de aprovação».

Para os líderes nas áreas da segurança, do risco e da IA que estão a pôr em prática uma autonomia da IA responsável.