Documento tecnico

Gestione delle azioni ad alto rischio degli agenti di intelligenza artificiale

Adeguare l’approvazione umana alle conseguenze dell’azione.

Gli agenti di intelligenza artificiale devono disporre di una chiara delega per operare in modo indipendente. Le organizzazioni devono definire in quali casi tale delega richieda l’approvazione verificata da parte di un essere umano.

Questo documento tecnico di iProov analizza come gestire le azioni significative degli agenti di intelligenza artificiale, preservando al contempo la produttività dell’automazione delle attività di routine.

In quali casi gli agenti di intelligenza artificiale dovrebbero richiedere l'approvazione verificata da parte di un essere umano?

Il presente articolo individua tre tipi di interazioni che richiedono le prove più solide dell’approvazione umana:

• Impostazione o modifica dei permessi: associare una persona responsabile all’autorità che un agente può esercitare.
• Approvazione delle azioni ad alto rischio: richiedere l'approvazione dell'azione specifica qualora questa superi le autorizzazioni predefinite o la politica preveda una revisione da parte di un operatore umano.
• Definizione della responsabilità umana: collegare l’identità di un agente alla persona o alle persone responsabili delle sue azioni e autorizzate a impartirgli istruzioni.

Cosa imparerai

Scopri come definire i limiti delle autorizzazioni, inoltrare le azioni con conseguenze significative per l’approvazione da parte di un operatore umano e assegnare la responsabilità delle decisioni relative al rischio. Comprendi in quali casi una verifica più rigorosa apporta valore aggiunto e in che modo controlli proporzionati possono contribuire a limitare l’affaticamento da approvazione.

Per i responsabili della sicurezza, della gestione dei rischi e dell’intelligenza artificiale impegnati a mettere in pratica un’autonomia dell’IA responsabile.