iProov dành cho Agentic AI
Cách con người kiểm soát các tác nhân AI hành động thay mặt họ là trọng tâm trong công việc của iProov trong lĩnh vực Trí tuệ nhân tạo dựa trên tác nhân (Agentic AI). Phương pháp tiếp cận của chúng tôi tập trung vào việc xác nhận rằng một con người có trách nhiệm đã phê duyệt những quyết định quan trọng nhất, ngay cả khi hành động cuối cùng được thực hiện bởi một tác nhân AI.
iProov thực hiện điều này bằng cách gắn danh tính của một cá nhân với một giao dịch cụ thể do cá nhân đó thực hiện, từ đó tạo ra bằng chứng có thể xác minh được rằng chính người đó đã phê duyệt từng hành động. Các công việc thường ngày có thể tiếp tục được thực hiện một cách tự động, trong khi các hành động có rủi ro cao đòi hỏi phải có sự phê duyệt của con người có trách nhiệm.
iProov thực hiện điều này bằng cách gắn danh tính của một cá nhân với một giao dịch cụ thể do cá nhân đó thực hiện, từ đó tạo ra bằng chứng có thể xác minh được rằng chính người đó đã phê duyệt từng hành động. Các công việc thường ngày có thể tiếp tục được thực hiện một cách tự động, trong khi các hành động có rủi ro cao đòi hỏi phải có sự phê duyệt của con người có trách nhiệm.
Trí tuệ nhân tạo dựa trên tác nhân là gì?
Trí tuệ nhân tạo có khả năng tự chủ (Agentic AI) là các hệ thống trí tuệ nhân tạo có khả năng theo đuổi một mục tiêu, lập kế hoạch cho một chuỗi các bước và thực hiện các hành động cần thiết để đạt được mục tiêu đó thông qua việc sử dụng các công cụ, ứng dụng hoặc dịch vụ kỹ thuật số. Các hệ thống này thể hiện mức độ tự chủ chưa từng có và thường được triển khai với sự can thiệp hoặc giám sát hạn chế từ con người.
Điều gì khiến sự ủy quyền của con người trở nên khó bị các tác nhân tự động xâm nhập?
Cơ chế ủy quyền chống lạm dụng được thiết kế sao cho một tác nhân AI không thể tạo ra, tái sử dụng hoặc chuyển hướng bằng chứng cần thiết để phê duyệt hành động của chính nó.
Những hành động nào cần có sự phê duyệt của con người?
Sự chấp thuận của con người cần phải tương xứng với mức độ rủi ro và hậu quả của hành động đó.
Trí tuệ nhân tạo có khả năng chủ động: Bối cảnh ngành và số liệu thống kê
Ý ĐỊNH NHẬN CON NUÔI
17% các tổ chức đã triển khai các hệ thống AI, trong khi hơn 60% dự kiến sẽ triển khai chúng trong vòng hai năm tới.
SẴN SÀNG VỀ QUẢN TRỊ
21% cho biết đã có cơ chế quản trị hoàn thiện đối với trí tuệ nhân tạo có khả năng tự chủ; 74% các tổ chức dự kiến sẽ sử dụng các tác nhân AI ít nhất ở mức độ vừa phải vào năm 2027.
Nghiên cứu “Tình hình ứng dụng Trí tuệ nhân tạo trong doanh nghiệp năm 2026” của Deloitte
SỰ CHO PHÉP CỦA CON NGƯỜI
Rủi ro hành động (63%) và sự phê duyệt của con người (53%) được xác định là những tín hiệu chính để định hướng việc quản trị hành vi của các tác nhân AI.
Làm sao để biết hành động của một tác nhân trí tuệ nhân tạo thực sự đã được con người phê duyệt?
Một tác nhân AI có thể sở hữu các mã thông báo, khóa truy cập và quyền hợp lệ, nhưng vẫn có thể thực hiện một hành động mà người dùng của nó hoàn toàn không hề có ý định.
Trong phiên thảo luận kéo dài 25 phút tại sự kiện AGNTCon + MCPCon EU, Andrew Bud, Nhà sáng lập kiêm Giám đốc Điều hành (CEO) của iProov, giải thích cách các tổ chức có thể bổ sung một bước kiểm tra sự đồng ý của con người trước khi các tác nhân AI thực hiện các hành động có rủi ro cao hoặc không thể đảo ngược, chẳng hạn như thanh toán, ký kết thỏa thuận, cấp quyền truy cập đặc quyền hoặc các hoạt động nhạy cảm.
Hãy xem video này để tìm hiểu cách các bên tin cậy có thể phân biệt giữa quyền truy cập được ủy quyền và hành động được ủy quyền, xác minh độc lập ý định của người dùng và tạo bản ghi về sự đồng ý có thể kiểm toán được, đồng thời tích hợp với các công nghệ hiện có như OAuth, MCP và passkeys.
Các câu hỏi thường gặp (FAQ)
iProov được tin dùng bởi
