Memastikan Persetujuan Manusia atas Tindakan AI yang Berinisiatif

Makalah teknis

Memastikan Persetujuan Manusia atas Tindakan AI yang Berinisiatif

Hubungkan tindakan AI yang berisiko tinggi dengan persetujuan manusia yang telah diverifikasi.

Ketika seorang agen AI mengambil tindakan yang berdampak signifikan, bagaimana Anda memastikan bahwa tindakan tersebut telah disetujui oleh orang yang tepat? Kredensial yang sah atau konfirmasi dari perangkat lain mungkin dapat menunjukkan adanya akses, namun persetujuan manusia memerlukan bukti yang terkait dengan orang tersebut dan keputusan spesifik yang diambil.

Unduh makalah teknis iProov ini untuk mengetahui bagaimana kontrol persetujuan yang lebih ketat dapat mendukung otonomi AI yang akuntabel.

Apa saja syarat agar tindakan agen AI dapat diterima oleh manusia?

Makalah ini menguraikan tiga persyaratan untuk tindakan berisiko tertinggi:

• Bukti dari manusia yang secara fisik hadir: Bukti yang berasal dari luar jangkauan kemampuan operasional pelaku.
• Saluran persetujuan independen: Permintaan dan tanggapan yang tidak dimediasi oleh agen pengusul.
• Persetujuan terkait dengan tindakan tertentu: Bukti hanya berlaku untuk orang, tindakan, dan transaksi yang telah disetujui.

Apa yang akan Anda pelajari

Pelajari mengapa metode persetujuan konvensional bisa kurang memadai, bagaimana verifikasi keaslian mendukung proses persetujuan oleh manusia, dan mengapa tingkat kepastian bukti harus sesuai dengan tingkat risiko tindakan tersebut.

Ditujukan bagi para pemimpin di bidang keamanan, risiko, dan kecerdasan buatan (AI) yang berupaya membangun kepercayaan dalam pengambilan keputusan AI yang berdampak besar.