Generative Adversarial Network (GAN)
Generative Adversarial Network (GAN) là một loại kiến trúc mô hình AI tạo ra bao gồm hai mạng thần kinh - một máy phát và một bộ phân biệt đối xử - được đào tạo đối lập với nhau.
Mô hình tạo nội dung dựa trên dữ liệu đào tạo có sẵn để bắt chước các ví dụ trong dữ liệu đào tạo. Trong khi đó, một mô hình phân biệt đối xử kiểm tra kết quả của mô hình phát sinh bằng cách đánh giá xác suất mẫu được thử nghiệm đến từ tập dữ liệu thay vì mô hình phát sinh. Đây là huấn luyện đối nghịch.
Nói một cách đơn giản hơn, đó là về hai mạng thần kinh cạnh tranh, một mạng tạo ra dữ liệu giả và mạng kia cố gắng phát hiện ra hàng giả. Điều này cuối cùng dẫn đến nội dung tổng hợp rất thuyết phục.
Các mô hình tiếp tục cải thiện cho đến khi nội dung được tạo ra cũng có khả năng đến từ mô hình tạo ra như dữ liệu đào tạo. Phương pháp này rất hiệu quả vì nó cải thiện kết quả xác thực của chính nó bằng cách liên tục kiểm tra các công cụ được thiết kế để vượt qua nó. Quá trình huấn luyện đối nghịch này tiếp tục cho đến khi máy phát điện tạo ra kết quả đầu ra đủ hợp lý để đánh lừa kẻ phân biệt đối xử. GAN thường được sử dụng cho các tác vụ tổng hợp hình ảnh như tạo deepfake, khuôn mặt người quang học và nâng cao hình ảnh nhiếp ảnh.
Các tác nhân đe dọa tận dụng GAN cho các mục đích độc hại – ví dụ: để tạo hình ảnh tổng hợp làm cho danh tính tổng hợp hợp lý hơn. Hình ảnh tổng hợp của khuôn mặt mô tả một người không tồn tại được tạo bằng công nghệ này và khớp với ID giả mạo để phá vỡ sinh trắc học khuôn mặt trong quá trình giới thiệu và trong suốt vòng đời người dùng.
Để phát hiện phương tiện được tạo bởi các mạng đối thủ tạo ra, iProov sử dụng công nghệ sinh trắc học phản ứng thách thức thụ động đã được cấp bằng sáng chế với công nghệ học sâu và thị giác máy tính để phân tích một số thuộc tính nhất định mà phương tiện truyền thông do AI tạo ra không thể tạo lại - vì không có người thật ở phía bên kia của máy ảnh. Đây là lý do tại saoviệc tích hợp sinh trắc học thời gian thực vào công nghệ sống động là rất quan trọng đối với các tổ chức để phân biệt giữa phương tiện tổng hợp và người chân chính.
Để tìm hiểu thêm về cách những kẻ lừa đảo đang khai thác AI tạo ra như GAN để làm suy yếu xác minh danh tính và củng cố gian lận danh tính tổng hợp, hãy đọc báo cáo của chúng tôi "Bị đánh cắp để tổng hợp" tại đây.
Xem thêm: