Mengatur Tindakan Berisiko Tinggi yang Dilakukan oleh Agen AI

Makalah teknis

Mengatur Tindakan Berisiko Tinggi yang Dilakukan oleh Agen AI

Sesuaikan persetujuan manusia dengan konsekuensi dari tindakan tersebut.

Agen AI memerlukan wewenang yang jelas agar dapat beroperasi secara mandiri. Organisasi perlu menentukan kapan wewenang tersebut memerlukan persetujuan manusia yang terverifikasi.

Makalah teknis iProov ini membahas cara mengatur tindakan agen AI yang berdampak besar sambil tetap menjaga produktivitas otomatisasi rutin.

Kapan agen AI perlu mendapatkan persetujuan dari manusia yang terverifikasi?

Makalah ini mengidentifikasi tiga bentuk interaksi yang memerlukan bukti paling kuat mengenai persetujuan manusia:

• Menetapkan atau mengubah izin: Menetapkan seorang individu yang bertanggung jawab atas wewenang yang dapat dijalankan oleh seorang agen.
• Persetujuan tindakan berisiko tinggi: Memerlukan persetujuan atas tindakan tertentu apabila tindakan tersebut melampaui izin yang berlaku atau kebijakan mensyaratkan peninjauan oleh manusia.
• Menetapkan pertanggungjawaban manusia: Mengaitkan identitas sebuah agen dengan orang atau sekelompok orang yang bertanggung jawab atas tindakannya dan berwenang untuk memberikan instruksi kepadanya.

Apa yang akan Anda pelajari

Pelajari cara menetapkan batasan izin, meneruskan tindakan yang berdampak besar untuk disetujui oleh pihak berwenang, dan menetapkan penanggung jawab atas keputusan terkait risiko. Pahami di mana verifikasi yang lebih ketat memberikan nilai tambah dan bagaimana pengendalian yang proporsional dapat membantu mengurangi kelelahan dalam proses persetujuan.

Bagi para pemimpin di bidang keamanan, risiko, dan kecerdasan buatan (AI) yang menerapkan otonomi AI yang akuntabel.