17 de novembro de 2026

Em ambientes controlados, a iProov conseguiu permitir que agentes de IA utilizassem muitas das mesmas ferramentas, sessões e credenciais que as pessoas têm utilizado tradicionalmente para exercer autoridade. Isto cria um novo problema para os sistemas de aprovação. A evidência de que foi utilizado um fator de autenticação válido, como uma palavra-passe, um código único ou uma verificação por e-mail, não prova necessariamente que a pessoa autorizada tivesse a intenção de aprovar a ação específica. Um agente pode possuir, utilizar ou reproduzir credenciais convencionais e, em casos graves de injeção de prompts, pode até satisfazer as condições aparentes da sua própria autorização. No entanto, exigir aprovação humana para cada utilização de uma ferramenta anula grande parte do objetivo e da eficiência que tornam a IA agentiva valiosa.

O principal desafio consiste em encontrar um equilíbrio entre a autonomia e a responsabilização controlada. Os agentes precisam de autoridade permanente para concluir longas sequências de trabalho, mas algumas decisões têm de ser comprovadamente tomadas por humanos e registadas para efeitos de auditoria. Isto levanta duas questões: 

  1. Em que circunstâncias é que a autoridade humana deve prevalecer sobre um agente de IA?
  2. Que provas podem comprovar essa autoridade, quando o agente já pode controlar as credenciais, as ferramentas e os canais normalmente utilizados para a aprovação?

Distinguir a posse da intenção

A aprovação digital convencional trata frequentemente a posse como um indicador de intenção, partindo do princípio de que, se alguém puder utilizar a credencial necessária, o sistema assume que essa pessoa tenciona aprovar a ação. Os agentes de IA enfraquecem esta inferência, uma vez que as credenciais podem ter-lhes sido deliberadamente delegadas; um agente pode deter legalmente a sessão, as credenciais e as ferramentas de uma pessoa, ou pode obter acesso às mesmas de forma ilegal. As provas resultantes podem, portanto, ser tecnicamente válidas, mas mesmo assim não demonstrar que a pessoa correta viu, compreendeu e autorizou essa ação.

Um agente também pode reter um fator utilizado para um fim e reutilizá-lo noutro, dissociando a aprovação da transação que a motivou. Este risco aplica-se a fatores de autenticação de segundo canal, como as SMS. O envio de um código de uma sessão no computador para um telemóvel garantia segurança, uma vez que o controlo de um dispositivo não implicava, normalmente, o controlo do outro. No entanto, dado o risco de um agente poder, em casos de injeção imediata ou de grave mal-entendido, recrutar outro agente nesse dispositivo para recuperar a mensagem e concluir o processo no primeiro dispositivo, este princípio fica comprometido, mesmo sem que haja uma violação dos controlos de segurança convencionais de qualquer um dos dispositivos.

No caso de ações rotineiras e de baixo impacto, esta incerteza remanescente pode ser aceitável, uma vez que o risco de uma rara evasão é compensado pelos ganhos de eficiência e pelo valor comercial, dadas as repercussões limitadas e reversíveis. No entanto, tal não é suficiente para uma transação irreversível, uma apresentação juridicamente vinculativa ou uma decisão que crie ou alargue a autoridade do agente. Para além deste limiar, a prova de acesso deve ser substituída pela prova — e por um registo duradouro — da intervenção humana.

Provas de resistência a agentes

Uma prova de resistência do agente é uma evidência de que o agente não pode produzir utilizando os sistemas de que dispõe. O seu objetivo não é obstruir o trabalho já confiado ao agente, mas sim proteger as poucas decisões que determinam a existência, o âmbito ou o uso excecional da sua autoridade.

A forma mais estável de garantir isto é exigir provas que tenham origem fora do contexto operacional de qualquer agente. Dado que colocar uma aprovação noutro dispositivo, ambiente de execução ou ambiente na nuvem é insuficiente se outro agente puder recuperá-la, utilizá-la ou simulá-la, a prova mais sólida tem origem para além dos sistemas digitais em que um agente pode operar. Pode ser necessária uma ação humana deliberada, utilizando hardware seguro, uma chave física ou uma verificação biométrica que comprove a autenticidade no momento da captura. Mesmo que um agente possa abrir a interface de aprovação, transmitir um desafio ou observar o processo, não pode criar nem substituir a ação humana da qual a aprovação depende.

Sempre que possível, o pedido de aprovação e a resposta devem também passar por um canal separado. Mesmo as provas fornecidas por um ser humano genuíno são insuficientes se o agente controlar a forma como descreve a ação proposta. O sistema de controlo deve apresentar a ação diretamente ao aprovador, utilizando detalhes fidedignos retirados da própria ação, em vez de um resumo redigido pelo agente. Isto impede que um agente comprometido ou desalinhado oculte informações importantes, subestime as consequências ou descreva uma ação diferente e mais aceitável.

A decisão deve, então, regressar diretamente da interface de aprovação para o sistema solicitante. O registo de aprovação deve vincular a pessoa identificada à decisão exata tal como apresentada: os recursos, sistemas ou contrapartes afetados; as alterações a efetuar; os limites aplicáveis; o resultado esperado; e o termo da validade da autorização. Sem esta vinculação, mesmo as provas sólidas de origem humana tornam-se tokens reutilizáveis que podem ser transferidos para outra transação ou apresentados como prova de concordância com uma ação que a pessoa nunca viu.

Na iProov, consideramos a verificação biométrica com comprovação de vivacidade como uma forma de fornecer esta prova de origem humana. O seu valor reside em comprovar a presença da pessoa identificada no momento da aprovação, em vez de se limitar a demonstrar que um fator digital reutilizável estava disponível. A comprovação de vivacidade, por si só, não prova a intenção. No entanto, quando combinada com detalhes fidedignos da ação e um caminho de retorno direto, pode ajudar a comprovar que foi a pessoa correta que aprovou a decisão específica que lhe foi apresentada.

Apêndice

Fator Como um agente pode cumprir essa exigência
Palavras-passe, PINs e respostas de segurança Recupere-as da memória, de um gestor de palavras-passe, de um cofre de segredos, do navegador ou de um ficheiro acessível.
Cookies de sessão e sessões autenticadas Agir através de uma sessão já criada pelo ser humano.
Chaves API, tokens OAuth e credenciais de carga de trabalho Apresente as credenciais que tenham sido legitimamente delegadas ao agente ou ao seu ambiente de execução.
E-mail, SMS e códigos TOTP Ler o conteúdo relevante da caixa de entrada, da aplicação de mensagens ou do aplicativo de autenticação, quer diretamente, quer através de um agente contratado.
Links mágicos Abra o link num navegador ou cliente de e-mail acessível.
Aprovações automáticas e correspondência de números Utilize a interface de aprovação quando esta controlar o dispositivo, ou recorra a um agente que o faça. Resolvido através de um enclave seguro.
Credenciais associadas ao dispositivo Recorra a elas sempre que o controlo do dispositivo ou da interface do sistema operativo for suficiente. A ligação ao dispositivo não implica necessariamente a intervenção humana.
Chaves de acesso Recorrer ao autenticador da plataforma, onde o agente pode operar o dispositivo autorizado e cumprir o procedimento de verificação do utilizador configurado. Resolvido através de um enclave seguro e/ou da utilização de dados biométricos do dispositivo.
Verificações básicas de presença Fornecer dados pré-gravados, sintéticos ou obtidos por outros meios, nos casos em que a verificação não comprove a autenticidade da presença em tempo real no momento da captura.
Ecrãs de aprovação por clique Selecione «aprovar», «confirmar» ou uma resposta equivalente, caso a interface seja acessível. Resolvido através de um enclave seguro.
Afirmações de aprovação reutilizáveis Repetir ou redirecionar uma asserção válida, caso esta não seja de utilização única e não esteja ligada criptograficamente à ação específica.