Bách khoa toàn thư sinh trắc học

AI tạo ra

AI tạo ra đề cập đến các hệ thống trí tuệ nhân tạo có thể tạo ra dữ liệu mới, chẳng hạn như hình ảnh, âm thanh, văn bản và phương tiện tổng hợp, thay vì chỉ đơn giản là phân tích dữ liệu hiện có. Nó sử dụng các mô hình học máy như Generative Adversarial Networks (GAN) và các mô hình khuếch tán được đào tạo trên các bộ dữ liệu lớn để tạo ra các đầu ra mới bắt chước các mẫu trong dữ liệu đào tạo.

Các ứng dụng AI phổ biến bao gồm tạo deepfake (ví dụ: hoán đổi khuôn mặt hoặc nhân bản giọng nói), hình ảnh quang thực, tạo nhạc / nghệ thuật và tạo văn bản giống con người. Trong khi cho phép các khả năng sáng tạo mới, khả năng của AI tạo ra phương tiện tổng hợp có độ thực tế cao cũng đưa ra những rủi ro xung quanh thông tin sai lệch, mạo danh và gian lận danh tính mà phát hiện sự sống mạnh mẽ phải bảo vệ chống lại.

Generative AI đã cách mạng hóa lĩnh vực truyền thông tổng hợp, cho phép tạo ra các giao dịch hoán đổi khuôn mặt có độ thật cao và các nội dung tương tự khác.

Sự khác biệt giữa Deepfake và Generative AI là gì?

Thuật ngữ deepfake trong lịch sử đã được sử dụng để chỉ hình ảnh tổng hợp được tạo ra bằng cách sử dụng mạng nơ-ron sâu. Trong thực tế, AI và deepfake hiện nay thường được sử dụng thay thế cho nhau vì có sự chồng chéo lớn, nhưng deepfake có nhiều khả năng đề cập đến video, hình ảnh hoặc đoạn âm thanh được sử dụng cho mục đích xấu.

Ngược lại, AI tạo ra bao gồm đầu ra trong bất kỳ phương tiện nào (bao gồm cả văn bản, chẳng hạn như mô hình ngôn ngữ [LLM] như ChatGPT) cho bất kỳ mục đích nào. Nói tóm lại, deepfake là một tập hợp con của AI tạo ra.

Chúng ta có thể làm gì để chống lại các cuộc tấn công AI phát sinh?

Để phát hiện phương tiện tổng hợp được tạo bằng AI tạo ra, các công nghệ xác minh sử dụng AI chống lại AI là rất cần thiết.

Khi được sử dụng với xác minh khuôn mặt sinh trắc học, AI tăng cường độ chính xác, bảo mật và tốc độ của quá trình xác minh danh tính. Người dùng có thể xác minh danh tính từ xa bằng cách quét tài liệu đáng tin cậy của một cá nhân và khuôn mặt của họ. Các mô hình học sâu như Mạng nơ-ron tích chập (CNN) phát hiện và khớp với hình ảnh. Đồng thời, phát hiện sự sống sử dụng thị giác máy tính để đảm bảo rằng hình ảnh là của người thật chứ không phải giả mạo không sống, chẳng hạn như deepfake, mặt nạ hoặc các phương tiện tổng hợp khác.

Xác minh khuôn mặt sinh trắc học vẫn là một trong những phương pháp đáng tin cậy và thuận tiện nhất để xác minh danh tính từ xa và bảo vệ chống lại các cuộc tấn công do AI tạo ra. Tuy nhiên, không phải tất cả các công nghệ sinh trắc học khuôn mặt đều được tạo ra như nhau. Các nhà cung cấp phải thực hiện các cơ chế phản hồi thách thức thụ động mạnh mẽ để đảm bảo một cá nhân từ xa là người thật và họ đang xác minh trong thời gian thực. Để làm điều này, công nghệ dựa trên khoa học tận dụng trí tuệ nhân tạo là cần thiết để tự tin phát hiện ra rằng một cá nhân là một người 'sống' (không phải là giả mạo AI tạo ra) và họ thực sự có mặt và xác minh trong thời gian thực. 

Cơ chế phản hồi thách thức thụ động của iProov là Flashmark - bản chất ngẫu nhiên của công nghệ khiến nó không thể đoán trước, không thể phát lại các cuộc tấn công (khi các tác nhân đe dọa tiêm các nỗ lực xác thực trước đó để vượt qua hệ thống) và không thể đảo ngược kỹ thuật. Đó là cách duy nhất để giảm thiểu các cuộc tấn công AI và tiêm kỹ thuật số hiệu quả bằng cách phát hiện sự hiện diện thực sự với sự đảm bảo cao.

Xem thêm: