Generative Adversarial Network (GAN)
Mạng đối kháng tạo sinh (GAN) là một loại kiến trúc AI tạo sinh sử dụng hai mạng thần kinh – một bộ tạo và một bộ phân biệt – được huấn luyện để đối kháng lẫn nhau. GAN được thiết kế để tạo ra nội dung tổng hợp có hình thức gần giống với dữ liệu trong thế giới thực.
Bộ tạo (generator) tạo ra các kết quả tổng hợp dựa trên các mẫu được học từ dữ liệu huấn luyện, trong khi bộ phân biệt (discriminator) đánh giá xem một mẫu có phải là thật hay do AI tạo ra. Trong quá trình huấn luyện, hai mô hình này liên tục cạnh tranh với nhau: bộ tạo cố gắng tạo ra các kết quả ngày càng thuyết phục hơn, trong khi bộ phân biệt cố gắng phát hiện xem những kết quả đó có phải là giả hay không. Quá trình này được gọi là huấn luyện đối kháng.
Quá trình huấn luyện đối kháng này tiếp tục cho đến khi các kết quả được tạo ra trở nên khó phân biệt một cách đáng tin cậy với dữ liệu thật đối với bộ phân biệt. Hiệu quả của GAN đến từ vòng lặp phản hồi liên tục này.
Nói một cách đơn giản, đây là quá trình cạnh tranh giữa hai mạng nơ-ron: một mạng học cách tạo ra dữ liệu tổng hợp, trong khi mạng kia học cách phát hiện dữ liệu đó. Thông qua quá trình cạnh tranh này, cả hai mô hình đều được cải thiện đồng thời, thường dẫn đến việc tạo ra các nội dung tổng hợp vô cùng chân thực, có thể giống hệt hình ảnh, video hoặc âm thanh thật.
Các ứng dụng phổ biến của Mạng đối kháng sinh thành
Mạng lưới đối sinh (GAN) thường được biết đến nhiều nhất với các ứng dụng tổng hợp hình ảnh và tạo nội dung deepfake, mặc dù chúng cũng có thể được sử dụng để nâng cao chất lượng hình ảnh, chuyển đổi phong cách, tăng độ phân giải, tạo video và tạo dữ liệu tổng hợp.
Các ứng dụng hợp pháp bao gồm tạo bộ dữ liệu huấn luyện cho học máy, phục hồi hình ảnh chất lượng thấp và hỗ trợ nghiên cứu về thị giác máy tính. Tuy nhiên, GAN cũng thường được liên kết với các ứng dụng AI tạo sinh có mục đích xấu, đặc biệt là trong việc tạo ra các video deepfake và danh tính giả mạo.
Mạng đối kháng (GAN), Lừa đảo danh tính và Xác minh danh tính
Trong bối cảnh xác minh danh tính, xác minh tài liệu và phát hiện sự hiện diện thực, các mô hình GAN có thể được sử dụng để tạo ra các khuôn mặt tổng hợp có độ chân thực cao, hình ảnh danh tính đã qua chỉnh sửa và các phương tiện sinh trắc học giả mạo.
Các tác nhân đe dọa có thể tận dụng hình ảnh do mô hình GAN tạo ra để mô phỏng những cá nhân không có thật, sau đó kết hợp chúng với các giấy tờ tùy thân bị làm giả hoặc chỉnh sửa nhằm tạo ra các danh tính ảo. Các cuộc tấn công này được thiết kế để vượt qua các quy trình xác minh danh tính trong suốt vòng đời của danh tính số – bao gồm quá trình đăng ký tài khoản, xác thực và khôi phục tài khoản.
Nội dung do GAN tạo ra cũng có thể được sử dụng để:
- Cải thiện các giấy tờ tùy thân giả mạo
- Nâng cao tính chân thực của hình ảnh được sử dụng trong các cuộc tấn công trình bày và các cuộc tấn công chèn mã
- Tạo nội dung deepfake nhằm mục đích làm suy yếu các hệ thống xác minh danh tính.
Phát hiện nội dung đa phương tiện do GAN tạo ra
Cùng với sự phát triển của các công nghệ trí tuệ nhân tạo tạo sinh, việc phân biệt giữa nội dung thật và nội dung tổng hợp ngày càng trở nên khó khăn hơn đối với các hệ thống phát hiện gian lận truyền thống.
iProov áp dụng công nghệ xác thực sự hiện diện (liveness) đã được cấp bằng sáng chế cùng với công nghệ Flashmark để phát hiện các nội dung đa phương tiện được tạo ra bởi mạng đối kháng sinh thành (GAN). Công nghệ học sâu và thị giác máy tính phân tích các đặc tính cụ thể của sự hiện diện con người thực sự – những yếu tố mà nội dung tổng hợp rất khó có thể tái tạo. Các giải pháp của chúng tôi giúp xác minh liệu có một người thật ở phía bên kia ống kính hay không. Để tìm hiểu thêm về khía cạnh kỹ thuật, vui lòng truy cập trang giới thiệu về cơ chế thách thức-phản hồi tại đây.
Bằng cách tích hợp cơ chế phát hiện sự hiện diện đáng tin cậy, các tổ chức có thể phân biệt giữa hình ảnh tổng hợp và một người thật sự có mặt tại thời điểm xác thực.
Các tài nguyên liên quan đến Mạng đối kháng sinh thành
Để tìm hiểu thêm về cách các đối tượng lừa đảo đang tận dụng trí tuệ nhân tạo tạo sinh (như GAN) để phá vỡ quy trình xác minh danh tính và gia tăng các vụ lừa đảo bằng danh tính giả mạo, hãy đọc báo cáo “Từ bị đánh cắp đến tổng hợp” của chúng tôi tại đây.
Xem thêm: