Deepfakes dan media sintetis lainnya - yang sebagian besar dibuat oleh teknologi AI generatif - menjadi semakin terkenal, dan sekarang diterima secara luas bahwa media sintetis adalah masalah bagi individu, organisasi, dan masyarakat.
Deepfakes datang dalam berbagai bentuk, seperti peragaan ulang, pertukaran wajah, dan Generative Adversarial Networks (GAN). Sangatlah penting untuk memahami berbagai bentuk serangan deepfake agar dapat bertahan melawannya.
Masalah AI generatif sangat mendesak karena frekuensi serangan ini terus meningkat, karena semakin mudah untuk membuat citra sintetis yang meyakinkan. Seiring dengan semakin canggihnya AI generatif dalam hal kecanggihan, aksesibilitas, dan skalabilitas, akan semakin sulit untuk mempercayai apa yang kita lihat dan dengan siapa kita berinteraksi secara online.
Dalam artikel ini, kami akan mengungkap dunia penipuan berbasis AI yang sering kali rumit, dan menjelaskan metodologi di balik setiap jenisnya.
Apa itu AI Generatif?
Kecerdasan Buatan Generatif (AI) mengacu pada algoritme yang dapat menghasilkan konten baru - termasuk teks, gambar, video, atau media lainnya - sebagai respons terhadap masukan atau perintah yang diberikan. Sering kali memanfaatkan teknologi seperti jaringan saraf dan visi komputer, AI generatif belajar dari pola dan struktur dari "data pelatihan" yang ada untuk membuat konten. Sebagai contoh, "analytical AI" berfungsi untuk menganalisis data yang ada dan mengotomatiskan proses menemukan pola atau mengekstrapolasi tren yang dapat berguna di bidang-bidang seperti kedokteran dan data kesehatan.
AI Generatif telah menangkap semangat teknologi, dengan jumlah yang sama antara kekaguman dan kontroversi seputar alat seperti Chat-GPT. Alat-alat ini dapat secara signifikan mempercepat pembuatan konten, tetapi ada kekhawatiran nyata tentang bagaimana alat-alat ini dapat digunakan oleh penjahat dalam perlombaan senjata keamanan siber - meningkatkan penipuan dan rekayasa sosial, disinformasi, dan kejahatan siber melalui konten sintetis yang manipulatif.
Selain itu, meningkatnya aksesibilitas alat AI generatif di pasar kejahatan sebagai layanan berarti bahwa penyerang yang kurang paham teknologi sekarang memiliki akses yang mudah dan terjangkau ke alat canggih untuk membuat media sintetis. Opsi perangkat lunak berteknologi tinggi kemarin kini menjadi hal yang biasa, seiring dengan menguapnya penghalang teknologi.
Sebuah bukti terbaru tentang kualitas spoof yang dihasilkan AI ini ditampilkan dalam sebuah studi yang dilakukan oleh Center for Strategic and International Studies, yang mengindikasikan bahwa kita telah "mencapai titik balik di mana manusia tidak dapat membedakan secara bermakna antara konten digital yang dihasilkan oleh AI dan konten digital yang dibuat oleh manusia".
Dalam artikel ini, kami memfokuskan khususnya pada AI generatif yang digunakan untuk menciptakan citra sintetis, termasuk deepfake .
Memahami Berbagai Jenis Serangan Deepfake
Mari kita luangkan waktu sejenak untuk memahami beberapa bentuk serangan AI generatif.
Pertukaran Wajah: Suatu bentuk media sintetis yang dibuat dengan menggunakan dua input. Mereka menggabungkan video yang ada atau streaming langsung dan menumpangkan identitas lain di atas umpan asli dalam waktu nyata. Hasil akhirnya adalah output video 3D palsu, yang digabungkan dari lebih dari satu wajah, tetapi dengan templat biometrik dari individu asli yang masih berlaku, bahkan jika secara visual kemiripannya lebih dekat dengan penyerang. Pencocokan wajah tanpa pertahanan yang memadai dapat mengidentifikasi output sebagai individu asli.
Peragaan ulang: Juga dikenal sebagai deepfake "puppet-master". Dalam teknik ini, ekspresi wajah dan gerakan orang dalam video atau gambar target dikendalikan oleh orang dalam video sumber. Seorang pemain yang duduk di depan kamera memandu gerakan dan deformasi wajah yang muncul dalam video atau gambar. Sementara pertukaran wajah menggantikan identitas sumber dengan identitas target (manipulasi identitas), pemeranan ulang berurusan dengan manipulasi ekspresi wajah dari satu input pada satu waktu.
Jaringan Musuh Generatif (Generative Adversarial Networks/GAN): GAN bekerja dengan dua model AI yang bersaing satu sama lain untuk menciptakan keluaran deepfake yang seakurat atau seotentik mungkin. Dua model - satu model generatif dan satu model diskriminatif - menciptakan dan menghancurkan secara bersamaan. Model generatif membuat konten berdasarkan data pelatihan yang tersedia untuk meniru contoh-contoh dalam data pelatihan. Sementara itu, model diskriminatif menguji hasil dari model generatif dengan menilai probabilitas sampel yang diuji berasal dari kumpulan data daripada model generatif. Model-model ini terus meningkat hingga konten yang dihasilkan sama besar kemungkinannya untuk berasal dari model generatif dibandingkan dengan data pelatihan. Metode ini sangat efektif karena meningkatkan hasil keasliannya sendiri dengan terus-menerus memeriksa alat yang dirancang untuk mengakalinya.
Bagaimana Serangan AI Generatif Biasanya Digunakan oleh Penipu?
Membuat dan menggunakan citra sintetis yang dibuat oleh AI secara generatif bukanlah tindakan kriminal. Namun, citra sintetis sayangnya merupakan hadiah bagi para penjahat siber - membantu kejahatan seperti pemerasan dan pelecehan, dengan sengaja menyebarkan disinformasi politik, atau memfasilitasi penipuan identitas dan dokumen (seperti mencoba mem-bypass pemeriksaan verifikasi identitas yang diamanatkan oleh peraturan Kenali Nasabah).
Bentuk umum penipuan yang didukung oleh citra sintetis meliputi:
Apa Perbedaan Antara Media Sintetis yang Diubah Secara Digital dan Media Sintetis yang Dihasilkan Secara Digital?
Media sintetis adalah hasil dari AI generatif, tetapi tidak semua media sintetis dibuat oleh AI generatif.
AI generatif menghasilkan data yang benar-benar baru yang unik dan orisinal, bukan sekadar memproses, menganalisis, dan memodifikasi data yang sudah ada. Perbedaan ini dapat diringkas sebagai citrayang dihasilkan secara digital versus citra yang diubahsecara digital.
Mengapa Semua Orang Membicarakan AI Generatif?
Meskipun AI dapat memberikan serangkaian kasus penggunaan yang positif - termasuk otomatisasi tugas, inspirasi kreatif, dan analisis kumpulan data yang kompleks - bahaya AI generatif saat ini menjadi pusat perhatian.
Catatan: Google Trends menunjukkan jumlah penelusuran organik untuk istilah tertentu dari waktu ke waktu; data grafik dinormalisasi dari kisaran 0 hingga 100 dan disebut sebagai "minat dari waktu ke waktu".
Satu hal yang pasti: AI generatif berkembang dengan cepat, dan menjanjikan dampak yang sangat mengganggu dan transformasional di berbagai industri.
AI generatif telah menarik minat publik, pembuat kebijakan, dan pemerintah. Anda dapat mempelajari lebih lanjut tentang AI generatif dan sektor publik dalam artikel ini - yang memberikan daftar tanggapan dari pemerintah dan pembuat kebijakan di seluruh dunia, dan merinci bagaimana iProov melindungi dari ancaman tersebut.
Di dunia yang serba digital saat ini, terdapat permukaan serangan digital yang lebih besar dengan jumlah dan variasi transaksi berisiko tinggi yang lebih banyak yang terjadi secara online - yang sering kali berarti imbalan yang lebih besar bagi para penipu. Pada akhirnya, yang menjadi perhatian adalah bagaimana pelaku kejahatan dapat memanfaatkan media sintetis yang dihasilkan oleh AI untuk tujuan penipuan dan memfasilitasi penyebaran informasi palsu secara online.
Kesimpulan tentang AI Generatif dan Verifikasi Wajah Biometrik
Wajah asli manusia itu unik dan tidak dapat benar-benar ditiru - itulah sebabnya verifikasi wajah biometrik muncul sebagai metode yang paling aman dan nyaman untuk memverifikasi identitas pengguna secara online.
Satu hal yang jelas: teknologi biometrik akan berfungsi sebagai jalur penyelamat untuk memverifikasi keberadaan asli dari jarak jauh, terutama karena replika tidak lagi dapat dibedakan oleh mata manusia. Sebenarnya, hanya sistem yang paling canggih yang telah melawan perlombaan senjata yang berkembang pesat ini yang dilengkapi untuk mengenali AI generatif.
Bagaimana iProov Dapat Membantu
Untuk memverifikasi deepfake, iProov menggunakan teknologi biometrik sekali pakai yang telah dipatenkan dengan pembelajaran mendalam dan teknologi visi komputer untuk menganalisis properti tertentu yang tidak dapat dibuat ulang oleh media yang dibuat oleh AI - karena tidak ada orang sungguhan di sisi lain kamera. Inilah sebabnya mengapa memiliki biometrik waktu nyata yang dimasukkan ke dalam teknologi kehidupan sangat penting bagi organisasi untuk membedakan antara media sintetis dan orang asli.
Untuk mempelajari lebih lanjut tentang bagaimana penipu memanfaatkan AI generatif untuk melemahkan verifikasi identitas dan meningkatkan penipuan identitas sintetis, baca laporan baru kami "Stolen to Synthetic" di sini.
Pesan demo atau minta konsultasi khusus dengan pakar iProov di sini hari ini.
