Studi iProov Mengungkap Titik Buta Deepfake: Hanya 0,1% Orang yang Dapat Mendeteksi Deepfake yang Dihasilkan oleh AI Secara Akurat

Sebagian Besar Konsumen Tidak Dapat Mengidentifikasi Barang Palsu yang Dihasilkan oleh AI;
Ikuti Tes Deteksi Deepfake

Penelitian baru dari iProovpenyedia solusi berbasis sains terkemuka di dunia untuk verifikasi identitas biometrikmengungkapkan bahwa kebanyakan orang tidak dapat mengidentifikasi deepfakes - video dan gambar yang dihasilkan AI yang sangat realistis yang sering kali dirancang untuk meniru orang. Penelitian ini menguji 2.000 konsumen di Inggris dan Amerika Serikat, dengan menghadapkan mereka pada serangkaian konten asli dan palsu. Hasilnya cukup mengkhawatirkan: hanya 0,1% peserta yang dapat secara akurat membedakan konten asli dan palsu di semua rangsangan, termasuk gambar dan video.

Temuan Utama:

• Deteksi deepfake gagal: Hanya 0,1% responden yang mengidentifikasi dengan benar semua rangsangan deepfake dan rangsangan asli (misalnya, gambar dan video) dalam sebuah penelitian di mana para partisipan dipersiapkan untuk mencari deepfake. Dalam skenario dunia nyata, di mana orang-orang kurang sadar, kerentanan terhadap deepfake mungkin lebih tinggi.
• Generasi yang lebih tua lebih rentan terhadap deepfakes: Studi ini menemukan bahwa 30% dari mereka yang berusia 55-64 tahun dan 39% dari mereka yang berusia 65+ bahkan tidak pernah mendengar tentang deepfake, menyoroti kesenjangan pengetahuan yang signifikan dan peningkatan kerentanan terhadap ancaman yang muncul oleh kelompok usia ini.
• Tantangan video: Video deepfake terbukti lebih sulit diidentifikasi daripada gambar deepfake, dengan peserta 36% lebih kecil kemungkinannya untuk mengidentifikasi video sintetis dengan benar dibandingkan dengan gambar sintetis. Kerentanan ini menimbulkan kekhawatiran serius tentang potensi penipuan berbasis video, seperti peniruan dalam panggilan video atau dalam skenario di mana verifikasi video digunakan untuk verifikasi identitas.
• Deepfakes ada di mana-mana tetapi disalahpahami: Meskipun kekhawatiran tentang deepfakes meningkat, banyak yang masih belum mengetahui tentang teknologi ini. Satu dari lima konsumen (22%) bahkan belum pernah mendengar tentang deepfake sebelum penelitian ini dilakukan.
• Terlalu percaya diri merajalela: Meskipun kinerjanya buruk, orang-orang tetap terlalu percaya diri dengan kemampuan pendeteksian deepfake mereka, yaitu lebih dari 60%, terlepas dari apakah jawaban mereka benar atau tidak. Hal ini terutama terjadi pada orang dewasa muda (18-34 tahun). Rasa aman yang palsu ini merupakan masalah yang signifikan.
• Kepercayaan terpukul: Platform media sosial dianggap sebagai tempat berkembang biak bagi deepfakes dengan Meta (49%) dan TikTok (47%) dianggap sebagai lokasi paling umum untuk deepfakes yang dapat ditemukan secara online. Hal ini, pada gilirannya, menyebabkan berkurangnya kepercayaan terhadap informasi dan media online - 49% kurang mempercayai media sosial setelah mengetahui tentang deepfakes. Hanya satu dari lima orang yang akan melaporkan dugaan deepfake ke platform media sosial.
• Deepfakes memicu kekhawatiran dan ketidakpercayaan yang meluas, terutama di kalangan orang dewasa yang lebih tua: Tiga dari empat orang (74%) mengkhawatirkan dampak sosial dari deepfakes, dengan "berita palsu" dan informasi yang salah menjadi kekhawatiran utama (68%). Ketakutan ini sangat terasa di antara generasi yang lebih tua, dengan hingga 82% dari mereka yang berusia 55+ mengungkapkan kecemasan tentang penyebaran informasi palsu.
• Diperlukan kesadaran dan mekanisme pelaporan yang lebih baik: Kurang dari sepertiga orang (29%) tidak melakukan tindakan apa pun ketika menemukan dugaan deepfake, yang kemungkinan besar disebabkan oleh 48% yang mengatakan bahwa mereka tidak tahu cara melaporkan deepfake, sementara seperempatnya tidak peduli jika melihat dugaan deepfake.
• Sebagian besar konsumen gagal memverifikasi keaslian informasi online secara aktif, sehingga meningkatkan kerentanan mereka terhadap deepfake: Meskipun ancaman misinformasi semakin meningkat, hanya satu dari empat orang yang mencari sumber informasi alternatif jika mereka mencurigai adanya deepfake. Hanya 11% orang yang secara kritis menganalisis sumber dan konteks informasi untuk menentukan apakah informasi tersebut adalah deepfake, yang berarti sebagian besar sangat rentan terhadap penipuan dan penyebaran narasi palsu.

Profesor Edgar Whitley, seorang ahli identitas digital di London School of Economics and Political Science menambahkan: "Para ahli keamanan telah memperingatkan ancaman yang ditimbulkan oleh deepfakes bagi individu dan organisasi selama beberapa waktu. Studi ini menunjukkan bahwa organisasi tidak bisa lagi mengandalkan penilaian manusia untuk mengenali deepfakes dan harus mencari cara alternatif untuk mengautentikasi pengguna sistem dan layanan mereka."

"Hanya 0,1% orang yang dapat mengidentifikasi deepfakes secara akurat, menggarisbawahi betapa rentannya organisasi dan konsumen terhadap ancaman penipuan identitas di era deepfakes," kata Andrew Bud, pendiri dan CEO iProov. "Dan bahkan ketika orang mencurigai adanya deepfake, penelitian kami menunjukkan bahwa sebagian besar orang tidak melakukan tindakan apa pun. Penjahat mengeksploitasi ketidakmampuan konsumen untuk membedakan gambar asli dan palsu, sehingga membahayakan informasi pribadi dan keamanan finansial kita. Hal ini bergantung pada perusahaan teknologi untuk melindungi pelanggan mereka dengan menerapkan langkah-langkah keamanan yang kuat. Menggunakan biometrik wajah dengan keaktifan memberikan faktor otentikasi yang dapat dipercaya dan memprioritaskan keamanan dan kontrol individu, memastikan bahwa organisasi dan pengguna dapat mengimbangi dan tetap terlindungi dari ancaman yang terus berkembang ini."

Ancaman Deepfakes yang Terus Meningkat

Deepfakes merupakan ancaman besar dalam lanskap digital saat ini dan telah berevolusi dengan kecepatan yang mengkhawatirkan selama 12 bulan terakhir. Laporan Intelijen Ancaman 2024 iProov menyoroti peningkatan 704% dalam pertukaran wajah (salah satu jenis deepfake) saja. Kemampuannya untuk menyamar sebagai individu secara meyakinkan menjadikannya alat yang ampuh bagi penjahat siber untuk mendapatkan akses tidak sah ke akun dan data sensitif. Deepfakes juga dapat digunakan untuk membuat identitas sintetis untuk tujuan penipuan, seperti membuka akun palsu atau mengajukan pinjaman. Hal ini menjadi tantangan yang signifikan bagi kemampuan manusia untuk membedakan kebenaran dan kepalsuan dan memiliki implikasi yang luas bagi keamanan, kepercayaan, dan penyebaran informasi yang salah.

Apa yang Bisa Dilakukan?

Dengan semakin canggihnya deepfakes, manusia tidak lagi dapat membedakan mana yang asli dan mana yang palsu dan harus mengandalkan teknologi untuk mendeteksinya. Untuk memerangi ancaman deepfakes yang semakin meningkat, organisasi harus mencari solusi yang menggunakan teknologi biometrik canggih dengan deteksi keaktifan, yang memverifikasi bahwa seseorang adalah orang yang tepat, orang yang nyata, dan sedang melakukan autentikasi saat ini. Solusi ini harus mencakup deteksi ancaman yang sedang berlangsung dan peningkatan langkah-langkah keamanan yang berkelanjutan untuk tetap berada di depan teknik deepfake yang terus berkembang. Juga harus ada kolaborasi yang lebih besar antara penyedia teknologi, platform, dan pembuat kebijakan untuk mengembangkan solusi yang mengurangi risiko yang ditimbulkan oleh deepfake.

Ikuti Tes Deteksi Deepfake

Anda pikir Anda kebal terhadap penipuan deepfake? Uji kemampuan Anda! iProov telah membuat kuis online yang menantang Anda untuk membedakan mana yang asli dan mana yang palsu. Ikuti kuisnya dan lihat skor Anda.