Tháng Mười Một 30, 2023

Deepfake và các phương tiện truyền thông tổng hợp khác - phần lớn được tạo ra bởi công nghệ AI tạo ra - đang ngày càng trở nên nổi tiếng và hiện nay người ta chấp nhận rộng rãi rằng phương tiện tổng hợp là một vấn đề đối với các cá nhân, tổ chức và xã hội.

Deepfake có nhiều dạng, chẳng hạn như tái hiện, hoán đổi khuôn mặt và Mạng đối thủ tạo ra (GAN). Điều cần thiết là phải hiểu các hình thức tấn công deepfake khác nhau để bảo vệ chống lại chúng.

Vấn đề AI tạo ra đặc biệt cấp bách khi tần suất của các cuộc tấn công này đang gia tăng, vì việc tạo ra hình ảnh tổng hợp thuyết phục ngày càng trở nên dễ dàng hơn. Khi AI tạo ra tiếp tục phát triển về độ tinh vi, khả năng tiếp cận và khả năng mở rộng, sẽ ngày càng khó tin tưởng vào những gì chúng ta thấy và những người chúng ta tương tác trực tuyến.

Trong bài viết này, chúng tôi sẽ làm sáng tỏ thế giới thường phức tạp của gian lận dựa trên AI và giải thích các phương pháp đằng sau mỗi loại.

Generative AI là gì?

Trí tuệ nhân tạo (AI) đề cập đến các thuật toán có thể tạo ra nội dung mới - bao gồm văn bản, hình ảnh, video hoặc phương tiện khác - để đáp ứng với một đầu vào hoặc lời nhắc nhất định. Thường tận dụng các công nghệ như mạng thần kinh và thị giác máy tính, AI tạo ra học hỏi từ các mẫu và cấu trúc từ "dữ liệu đào tạo" hiện có để tạo nội dung. Ví dụ: "AI phân tích" phục vụ để phân tích dữ liệu hiện có và tự động hóa quá trình phát hiện các mẫu hoặc ngoại suy các xu hướng có thể hữu ích trong các lĩnh vực như y học và dữ liệu sức khỏe.

Generative AI đã nắm bắt được tinh thần công nghệ, với số lượng kinh ngạc và tranh cãi tương đương xung quanh các công cụ như Chat-GPT. Những công cụ này có thể tăng tốc đáng kể việc tạo nội dung, nhưng có mối quan tâm thực sự xung quanh cách chúng có thể được vũ khí hóa bởi bọn tội phạm trong cuộc chạy đua vũ trang an ninh mạng - củng cố gian lận và kỹ thuật xã hội, thông tin sai lệch và tội phạm mạng thông qua nội dung tổng hợp thao túng.

Ngoài ra, khả năng tiếp cận ngày càng tăng của các công cụ AI tạo ra trong các thị trường tội phạm như một dịch vụ có nghĩa là những kẻ tấn công ít hiểu biết về công nghệ hiện có quyền truy cập dễ dàng và giá cả phải chăng vào các công cụ tinh vi để tạo phương tiện tổng hợp. Các tùy chọn phần mềm công nghệ cao nhất của ngày hôm qua hiện đã trở nên phổ biến, khi rào cản công nghệ bốc hơi.

Một bằng chứng gần đây về chất lượng của những trò giả mạo do AI tạo ra này đã được giới thiệu trong một nghiên cứu được thực hiện bởi Trung tâm Nghiên cứu Chiến lược và Quốc tế, chỉ ra rằng chúng ta đã "đạt đến điểm uốn mà con người không thể phân biệt một cách có ý nghĩa giữa nội dung kỹ thuật số do AI tạo ra và do con người tạo ra".

Trong bài viết này, chúng tôi đặc biệt tập trung vào AI tạo ra được sử dụng để tạo hình ảnh tổng hợp, bao gồm cả deepfake.

Hiểu các loại tấn công deepfake khác nhau

Chúng ta hãy dành một chút thời gian để hiểu một số hình thức tấn công AI tạo ra.

Hoán đổi khuôn mặt: Một dạng phương tiện tổng hợp được tạo ra bằng cách sử dụng hai đầu vào. Chúng kết hợp các video hoặc sự kiện trực tiếp hiện có và chồng một danh tính khác lên nguồn cấp dữ liệu gốc trong thời gian thực. Kết quả cuối cùng là đầu ra video 3D giả, được hợp nhất từ nhiều khuôn mặt, nhưng với mẫu sinh trắc học của cá nhân chính hãng vẫn còn nguyên vẹn, ngay cả khi trực quan giống với kẻ tấn công hơn. Một người phù hợp với khuôn mặt mà không có phòng thủ đầy đủ tại chỗ có thể xác định đầu ra là cá nhân chính hãng.

Tái hiện: Còn được gọi là deepfake "bậc thầy bù nhìn". Trong kỹ thuật này, nét mặt và chuyển động của người trong video hoặc hình ảnh mục tiêu được điều khiển bởi người trong video nguồn. Một người biểu diễn ngồi trước máy ảnh hướng dẫn chuyển động và biến dạng của khuôn mặt xuất hiện trong video hoặc hình ảnh. Trong khi hoán đổi khuôn mặt thay thế danh tính nguồn bằng danh tính mục tiêu (thao tác danh tính), việc tái hiện xử lý thao tác biểu cảm khuôn mặt của một đầu vào tại một thời điểm.

Generative Adversarial Networks (GAN): Một GAN hoạt động bởi hai mô hình AI cạnh tranh với nhau để tạo ra đầu ra deepfake "chính xác" hoặc xác thực nhất có thể. Hai mô hình - một mô hình phát sinh và một mô hình phân biệt đối xử - tạo ra và phá hủy song song. Mô hình tạo nội dung dựa trên dữ liệu đào tạo có sẵn để bắt chước các ví dụ trong dữ liệu đào tạo. Trong khi đó, một mô hình phân biệt đối xử kiểm tra kết quả của mô hình phát sinh bằng cách đánh giá xác suất mẫu được thử nghiệm đến từ tập dữ liệu thay vì mô hình phát sinh. Các mô hình tiếp tục cải thiện cho đến khi nội dung được tạo ra cũng có khả năng đến từ mô hình tạo ra như dữ liệu đào tạo. Phương pháp này rất hiệu quả vì nó cải thiện kết quả xác thực của chính nó bằng cách liên tục kiểm tra các công cụ được thiết kế để vượt qua nó.

Các cuộc tấn công AI tạo ra thường được sử dụng bởi những kẻ lừa đảo như thế nào?

Tạo và sử dụng hình ảnh tổng hợp do AI tạo ra vốn không phải là tội phạm. Tuy nhiên, hình ảnh tổng hợp không may là một món quà cho tội phạm mạng - hỗ trợ tội phạm như tống tiền và quấy rối, cố tình truyền bá thông tin sai lệch chính trị hoặc tạo điều kiện cho gian lận danh tính và tài liệu (chẳng hạn như cố gắng vượt qua kiểm tra xác minh danh tính bắt buộc theo quy định Biết khách hàng của bạn).

Các hình thức gian lận phổ biến được hỗ trợ bởi hình ảnh tổng hợp bao gồm:

Sự khác biệt giữa phương tiện tổng hợp được thay đổi kỹ thuật số và phương tiện tổng hợp được tạo kỹ thuật số là gì?

Phương tiện tổng hợp là đầu ra của AI tạo ra, nhưng không phải tất cả các phương tiện tổng hợp đều được tạo ra bởi AI tạo ra.

Generative AI tạo ra dữ liệu hoàn toàn mới độc đáo và nguyên bản, trái ngược với việc chỉ đơn giản là xử lý, phân tích và sửa đổi dữ liệu hiện có. Sự khác biệt này có thể được tóm tắt là được tạo ra bằng kỹ thuật số so với thay đổikỹ thuật số i magery.

Tại sao mọi người lại nói về AI tạo ra?

Mặc dù AI có thể cung cấp một loạt các trường hợp sử dụng tích cực - bao gồm tự động hóa tác vụ, cảm hứng sáng tạo và phân tích các bộ dữ liệu phức tạp - nhưng sự nguy hiểm của AI tạo ra hiện đang chiếm vị trí trung tâm.

Sự phổ biến của trí tuệ nhân tạo tạo ra - sự quan tâm theo thời gian đã bùng nổ trong biểu đồ nàyLưu ý: Google Xu hướng thể hiện số lượng tìm kiếm không phải trả tiền cho một cụm từ cụ thể theo thời gian; Dữ liệu biểu đồ được chuẩn hóa từ phạm vi từ 0 đến 100 và được gọi là "lãi suất theo thời gian".

Một điều chắc chắn là: AI tạo ra đang phát triển nhanh chóng, và nó hứa hẹn những tác động đột phá và biến đổi sâu sắc trên nhiều ngành công nghiệp.

AI tạo ra đã thu hút sự quan tâm của công chúng, các nhà hoạch định chính sách và chính phủ. Bạn có thể tìm hiểu thêm về AI tạo ra và khu vực công trong bài viết này - cung cấp danh sách các phản hồi từ các chính phủ và các nhà hoạch định chính sách trên toàn cầu và chi tiết cách iProov bảo vệ chống lại mối đe dọa.

Trong thế giới kỹ thuật số đầu tiên ngày nay, có một bề mặt tấn công kỹ thuật số lớn hơn với số lượng lớn hơn và nhiều giao dịch rủi ro cao diễn ra trực tuyến - thường có nghĩa là phần thưởng lớn hơn cho những kẻ lừa đảo. Cuối cùng, mối quan tâm là làm thế nào các tác nhân xấu có thể sử dụng phương tiện tổng hợp do AI tạo ra cho mục đích gian lận và tạo điều kiện cho việc lan truyền thông tin sai lệch trực tuyến.

Bớt suy nghĩ về Generative AI và Xác minh khuôn mặt sinh trắc học

Một khuôn mặt người thật, là duy nhất và không thể được sao chép thực sự - đó là lý do tại sao xác minh khuôn mặt sinh trắc học đã nổi lên như một phương pháp an toàn và thuận tiện nhất để xác minh danh tính người dùng trực tuyến.

Một điều rõ ràng: công nghệ sinh trắc học sẽ đóng vai trò là cứu cánh để xác minh sự hiện diện thực sự từ xa, đặc biệt là khi các bản sao không còn có thể được phân biệt bằng mắt người. Trên thực tế, chỉ những hệ thống tiên tiến nhất đang chiến đấu trong cuộc chạy đua vũ trang quy mô nhanh chóng này mới được trang bị để nhận ra AI tạo ra.

iProov có thể giúp gì

Để xác minh deepfake, iProov sử dụng công nghệ sinh trắc học một lần được cấp bằng sáng chế với công nghệ học sâu và thị giác máy tính để phân tích một số thuộc tính nhất định mà phương tiện truyền thông do AI tạo ra không thể tạo lại - vì không có người thật ở phía bên kia của máy ảnh. Đây là lý do tại sao việc tích hợp sinh trắc học thời gian thực vào công nghệ sống động là rất quan trọng đối với các tổ chức để phân biệt giữa phương tiện tổng hợp và người chân chính.

Để tìm hiểu thêm về cách những kẻ lừa đảo đang khai thác AI tạo ra để làm suy yếu xác minh danh tính và củng cố gian lận danh tính tổng hợp, hãy đọc báo cáo mới của chúng tôi "Bị đánh cắp để tổng hợp" tại đây.

Đặt bản demo hoặc yêu cầu tư vấn tùy chỉnh với chuyên gia iProov tại đây ngay hôm nay.

Hiểu các loại AI tạo khác nhau