Một số liên hệ truyền thông xã hội của bạn có thể đã được tạo bằng AI.
Không, thực sự - một nghiên cứu gần đây từ Đài quan sát Internet Stanford cho thấy hơn 1000 hồ sơ deepfake đang ẩn nấp trên LinkedIn ... Và đó chỉ là những phát hiện từ một nghiên cứu trên một mạng xã hội. Nghiên cứu đã xác định các tài khoản được tạo bằng cách sử dụng danh tính hoàn toàn hư cấu với thông tin giáo dục và việc làm giả.
Nghiên cứu này nhấn mạnh một vài chủ đề quan tâm:
Deepfake là gì và chúng đang được sử dụng như thế nào trên mạng xã hội?
Deepfake là video hoặc hình ảnh tổng hợp được tạo bằng phần mềm hỗ trợ AI. Chúng thường được sử dụng để xuyên tạc mọi người bằng cách cho họ thấy họ nói và làm những điều mà họ không nói hoặc làm. Deepfake đã được sử dụng cho các trò đùa và giải trí, nhưng cũng cho các mục đích độc hại hơn. Đáng lo ngại, số lượng video deepfake được đăng trực tuyến tăng hơn gấp đôi so với cùng kỳ năm ngoái.
Trong nghiên cứu của LinkedIn Stanford Internet Observatory, deepfake đã được sử dụng cho mục đích thương mại. Các tài khoản deepfake đã gửi tin nhắn từ một công ty hợp pháp để giới thiệu phần mềm của họ cho các thành viên LinkedIn không nghi ngờ - về cơ bản biến deepfake thành một công cụ bán hàng. Điều này có lợi cho công ty vì việc tạo tài khoản deepfake mới có thể phá vỡ giới hạn tin nhắn LinkedIn.
Mặc dù điều này có vẻ tương đối lành tính, nhưng nó chỉ là bề mặt của một vấn đề sâu sắc hơn. Các tài khoản mạng xã hội sử dụng khuôn mặt do máy tính tạo ra đã thực hiện các hành vi nghiêm trọng hơn.
Các ví dụ khác bao gồm:
- Deepfake đẩy thông tin sai lệch chính trị.
- Deepfake quấy rối các nhà hoạt động.
- Deepfake lừa đảo một CEO 243.000 USD.
Một phần nguyên nhân khiến deepfake trở thành mối đe dọa nguy hiểm, có thể mở rộng là mọi người không thể phát hiện ra deepfake. Chắc chắn, có thể có quà tặng: vị trí và màu mắt, sự không nhất quán xung quanh chân tóc và một số kỳ lạ thị giác.
Dữ liệu khảo sát gần đây từ iProov cho thấy 57% số người được hỏi trên toàn cầu tin rằng họ có thể nhận ra sự khác biệt giữa video thật và deepfake, tăng từ 37% vào năm 2019. Nhưng sự thật là deepfake tinh vi có thể thực sự không thể phân biệt được bằng mắt người. Để thực sự xác minh một deepfake, cần có công nghệ học sâu và thị giác máy tính để phân tích một số thuộc tính nhất định, chẳng hạn như cách ánh sáng phản chiếu trên da thật so với da tổng hợp.
Các công ty truyền thông xã hội có nhiệm vụ bảo vệ người dùng, nhà quảng cáo và nhân viên của họ khỏi những mối đe dọa có thể mở rộng ngày càng tăng này. May mắn thay, có một giải pháp.
Làm thế nào để xác minh danh tính có thể thiết lập niềm tin trực tuyến và trên phương tiện truyền thông xã hội?
Chúng tôi đã xác định rằng các ứng dụng khác nhau của deepfake bởi các tác nhân xấu có thể nghiêm trọng. Nhưng mối nguy hiểm thực sự, lâu dài của deepfake là sự xói mòn niềm tin trực tuyến. Bằng chứng video sẽ trở nên ít đáng tin cậy hơn, dẫn đến khả năng phủ nhận hợp lý: "đó không phải là tôi", mọi người có thể nói, "đó là một deepfake!"
Tất cả các mối đe dọa deepfake đều tập trung vào một câu hỏi: làm thế nào bạn có thể tin tưởng rằng ai đó là người mà họ nói rằng họ đang trực tuyến? Câutrả lời là xác minh danh tính kỹ thuật số. Phương tiện nhận dạng an toàn, thuận tiện và đáng tin cậy nhất là sinh trắc học - đặc biệt là xác minh sinh trắc học khuôn mặt
Xác minh danh tính kỹ thuật số đã là một phần trong cuộc sống trực tuyến của chúng tôi. Các quy trình hàng ngày đã yêu cầu xác minh, chẳng hạn như:
- Thiết lập tài khoản ngân hàng
- Đăng ký các chương trình hỗ trợ của chính phủ
- Xác minh danh tính cho chuyến đi
Những ví dụ này yêu cầu chúng tôi chứng minh chúng tôi là ai để hoàn thành các nhiệm vụ quan trọng trực tuyến. Tuy nhiên, phương tiện truyền thông xã hội là một lĩnh vực mà xác minh danh tính vắng mặt. Bất cứ ai - hoặc bất cứ điều gì, trong trường hợp deepfake và bot - đều có thể tạo một tài khoản trên phương tiện truyền thông xã hội và dường như làm những gì họ muốn, mà không sợ nó bị truy ngược lại cho họ.
Một lựa chọn cho các mạng truyền thông xã hội là giới thiệu trách nhiệm giải trình trực tuyến thông qua xác minh khuôn mặt, đảm bảo rằng ai đó tạo tài khoản truyền thông xã hội là người mà họ nói. Nhiều công ty khác nhau trong lĩnh vực hẹn hò trực tuyến, chẳng hạn như Tinder, đã chuyển sang xác minh danh tính như chúng tôi dự đoán vào năm 2020 và 2021. Điều này trông như thế nào sẽ phụ thuộc vào mạng. Xác minh danh tính có thể là tùy chọn, cấp cho người dùng biểu tượng "xác minh danh tính" như trên Tinder.
Lợi ích của việc xác minh danh tính đối với các mạng truyền thông xã hội
- Giảm khối lượng spam, deepfake và tài khoản bot trên mạng xã hội.
- Cải thiện trải nghiệm, sự yên tâm và bảo mật cho người dùng – chúng tôi sẽ biết rằng chúng tôi đang tương tác với một con người đã được xác minh.
- Giúp theo dõi và ngăn chặn lạm dụng nghiêm trọng, gian lận và tấn công phi kỹ thuật trên mạng xã hội.
- Giúp người dùng mạng xã hội cảm thấy an toàn hơn khi trực tuyến.
- Bảo vệ danh tiếng của các mạng truyền thông xã hội, vì họ được coi là đang hành động để bảo vệ người dùng trực tuyến.
Làm thế nào Liveness và Dynamic Liveness có thể chống lại deepfake và giúp lĩnh vực truyền thông xã hội?
Deepfake là một mối đe dọa độc đáo và đầy thách thức đòi hỏi một giải pháp độc đáo. Đó là lý do tại sao công nghệ sinh trắc học được cấp bằng sáng chế của iProov, Dynamic Liveness, được thiết kế để cung cấp khả năng bảo vệ tiên tiến chống lại deepfake và các cuộc tấn công tổng hợp hoặc kỹ thuật số khác.
Nếu các mạng truyền thông xã hội chọn triển khai công nghệ để xác thực danh tính của người dùng trực tuyến và bảo vệ chống lại deepfake, họ sẽ cần đảm bảo rằng họ chọn đúng công nghệ. Phát hiện sự sống là một phần quan trọng của quá trình xác minh danh tính và không phải tất cả sự sống đều như nhau.
Dynamic Liveness của iProov mang lại tất cả các lợi ích của việc phát hiện sự sống, cung cấp độ chính xác cao hơn về việc người dùng có đúng người và đúng người thật hay không. Nhưng Dynamic Liveness cũng xác minh rằng người dùng đang xác thực ngay bây giờ, cung cấp sự bảo vệ bổ sung chống lại việc sử dụng các cuộc tấn công kỹ thuật số sử dụng deepfake hoặc phương tiện tổng hợp khác.
Lợi ích bổ sung của việc triển khai Dynamic Liveness là nó có thể được sử dụng để xác thực liên tục trên phương tiện truyền thông xã hội. Bất cứ khi nào người dùng quay lại sử dụng ứng dụng một lần nữa, họ sẽ trình bày khuôn mặt của mình và chứng minh họ là đúng người, một người thật và họ đang xác thực ngay bây giờ. Điều này có nghĩa là không ai khác có thể truy cập vào tài khoản đó, gửi tin nhắn hoặc thực hiện bất kỳ hoạt động nào mà sau đó họ khẳng định họ đã không làm.
iProov hoạt động trên mọi thiết bị có camera hướng tới người dùng – nó không yêu cầu phần cứng chuyên dụng để xác thực, cung cấp khả năng truy cập và tính toàn diện tối đa cho người dùng cuối. Ngoài ra, GPA đi kèm với quản lý mối đe dọa chủ động do Trung tâm điều hành bảo mật iProov (iSOC) hỗ trợ. iSOC sử dụng công nghệ máy học tiên tiến để giám sát các hoạt động hàng ngày và cung cấp khả năng phục hồi trước các cuộc tấn công tinh vi mới nổi.
Chúng ta đang trong một cuộc chạy đua vũ trang giữa máy phát deepfake và máy dò deepfake và các doanh nghiệp như LinkedIn phải ưu tiên các biện pháp bảo mật của họ và xem xét cách họ có thể bảo vệ khách hàng của mình khỏi các cuộc tấn công. Điểm mấu chốt là công nghệ Dynamic Liveness bảo vệ chống lại deepfake bằng cách đảm bảo rằng người dùng trực tuyến là người thực sự xác thực ngay bây giờ.
Phương tiện truyền thông xã hội, Deepfake và xác minh danh tính kỹ thuật số: Tóm tắt
- Deepfake đang được sử dụng trên các mạng xã hội, với các trang web truyền thông xã hội được nhắm mục tiêu để lừa đảo (theo đó mọi người vô tình tiết lộ thông tin, thường là do thao túng).
- Trong khi một số sử dụng deepfake trên phương tiện truyền thông xã hội là tương đối lành tính, những người khác rất nguy hiểm: thông tin sai lệch chính trị, quấy rối, v.v.
- Các nền tảng truyền thông xã hội phải bảo vệ người dùng của họ. Xác minh danh tính cung cấp sự đảm bảo, an toàn và bảo vệ khỏi quấy rối và thông tin sai lệch.
- Có nhiều cách để xác minh danh tính có thể được thực hiện bởi các mạng truyền thông xã hội. Xác minh danh tính có thể là tùy chọn, cấp cho người dùng biểu tượng "xác minh danh tính" như trên Tinder.
- Dynamic Liveness của iProov cho phép các tổ chức xác minh danh tính kỹ thuật số của người dùng, với khả năng bảo vệ chống lại deepfake và các phương tiện tổng hợp khác.
- Điều này sẽ cho phép trải nghiệm người dùng mạng xã hội tốt hơn, tăng sự tin tưởng, an toàn và bảo mật cho người dùng. Ngoài ra, việc giới thiệu xác minh danh tính kỹ thuật số có thể giúp bảo vệ danh tiếng của các thương hiệu truyền thông xã hội, vì họ được coi là đang hành động để bảo vệ người dùng trực tuyến.
Tìm hiểu thêm: Mối đe dọa Deepfake
Đặt bản demo iProov của bạn hoặc liên hệ với chúng tôi.
