Bài báo kỹ thuật

Quản lý các hành động có rủi ro cao của các tác nhân trí tuệ nhân tạo

Phải đảm bảo mức độ phê duyệt của con người phù hợp với hậu quả của hành động đó.

Các tác nhân AI cần có quyền hạn rõ ràng để hoạt động độc lập. Các tổ chức cần xác định rõ những trường hợp nào quyền hạn đó cần phải có sự phê duyệt đã được xác minh từ con người.

Bài báo kỹ thuật này của iProov tìm hiểu cách quản lý các hành động có tác động lớn của các tác nhân AI đồng thời duy trì năng suất của quá trình tự động hóa các tác vụ thường ngày.

Trong những trường hợp nào các tác nhân trí tuệ nhân tạo (AI) cần phải có sự chấp thuận đã được xác minh từ con người?

Bài báo này chỉ ra ba hình thức tương tác đòi hỏi bằng chứng rõ ràng nhất về sự chấp thuận của con người:

• Cài đặt hoặc thay đổi quyền: Chỉ định một người chịu trách nhiệm cụ thể cho quyền hạn mà một đại lý có thể thực hiện.
• Phê duyệt các hành động có rủi ro cao: Yêu cầu phải có sự phê duyệt đối với hành động cụ thể đó khi hành động đó vượt quá phạm vi quyền hạn hiện có hoặc chính sách yêu cầu phải có sự xem xét của con người.
• Xác lập trách nhiệm của con người: Liên kết danh tính của một tác nhân với cá nhân hoặc những người chịu trách nhiệm về các hành động của tác nhân đó và được phép ra lệnh cho tác nhân đó.

Những điều bạn sẽ học

Tìm hiểu cách thiết lập các giới hạn về quyền hạn, chuyển các hành động có tác động lớn lên cấp trên để được phê duyệt và phân công trách nhiệm đối với các quyết định liên quan đến rủi ro. Nắm rõ những trường hợp nào việc xác minh chặt chẽ hơn mang lại giá trị gia tăng và cách các biện pháp kiểm soát phù hợp có thể giúp hạn chế tình trạng “mệt mỏi do phê duyệt”.

Dành cho các nhà lãnh đạo trong lĩnh vực an ninh, quản lý rủi ro và trí tuệ nhân tạo (AI) đang triển khai thực tiễn khái niệm “tự chủ AI có trách nhiệm”.