Garantir a aprovação humana das ações da IA autônoma
Artigo técnico
Garantir a aprovação humana das ações da IA autônoma
Associar ações de IA de alto risco à aprovação humana verificada.
Quando um agente de IA realiza uma ação com implicações importantes, como se comprova que foi a pessoa certa a aprová-la? Uma credencial válida ou uma confirmação proveniente de outro dispositivo pode comprovar o acesso, mas a aprovação humana requer provas ligadas à pessoa e à decisão específica.
Descarregue este documento técnico da iProov para descobrir como controlos de aprovação mais rigorosos podem contribuir para uma autonomia da IA responsável.
O que é necessário para que as ações de um agente de IA sejam aprovadas pelos seres humanos?
Este artigo descreve três requisitos para as ações de maior risco:
- Prova proveniente de um ser humano fisicamente presente: Evidência cuja origem se situa para além da capacidade de ação de um agente.
- Um canal de aprovação independente: pedidos e respostas que não são mediados pelo agente proponente.
- Aprovação vinculada à ação específica: a prova é válida apenas para a pessoa, a ação e a transação aprovadas.
O que irá aprender
Descubra por que razão os métodos convencionais de aprovação podem revelar-se insuficientes, como é que a verificação da autenticidade apoia a aprovação humana e por que razão o nível de segurança da prova deve corresponder ao risco da ação.
Para os responsáveis pelas áreas de segurança, risco e IA que procuram reforçar a confiança nas decisões importantes relacionadas com a IA.