Apa Itu Deepfake? Kenali Bahaya dan Cara Deteksinya

Jakarta, CNN Indonesia --

Kasus penipuan dan pemerasan menggunakan teknologi kecerdasan buatan (AI) deepfake semakin marak belakangan ini. Apa sebenarnya deepfake dan bagaimana cara mengatasinya?

Deepfake menggunakan AI untuk menghasilkan video atau audio yang benar-benar baru, dengan tujuan akhir untuk menggambarkan sesuatu yang sebenarnya tidak terjadi pada kenyataannya.

Istilah "deepfake" berasal dari teknologi yang mendasarinya, yakni algoritma pembelajaran mendalam, yang memungkinkan mesin belajar sendiri untuk memecahkan masalah dengan kumpulan data yang besar dan dapat digunakan untuk membuat konten palsu dari orang sungguhan.

"Deepfake adalah rekaman yang dihasilkan oleh komputer yang telah dilatih melalui gambar-gambar yang tak terhitung jumlahnya," kata Cristina Lopez, seorang analis senior di Graphika, sebuah perusahaan yang meneliti aliran informasi di jaringan digital, mengutip Business Insider.

Sementara itu, menurut Britannica, istilah deepfake menggabungkan kata deep, yang diambil dari teknologi deep-learning AI atau sebuah jenis pembelajaran mesin yang melibatkan beberapa tingkat pemrosesan, dan fake, yang merujuk pada konten tidak nyata.

Istilah ini mulai digunakan untuk media sintetis pada tahun 2017 ketika seorang moderator Reddit membuat subreddit yang disebut "deepfakes" dan mulai memposting video yang menggunakan teknologi penukaran wajah untuk menyisipkan kemiripan selebritas ke dalam video porno yang sudah ada.

Deepfake dibuat dengan menggunakan dua algoritma pembelajaran mendalam AI yang berbeda: satu algoritme yang menciptakan replika terbaik dari gambar atau video asli dan algoritma lainnya mendeteksi apakah replika tersebut palsu dan, jika ya, akan melaporkan perbedaannya dengan yang asli.

Algoritma pertama menghasilkan gambar sintetis dan menerima umpan balik dari algoritma kedua, lalu menyesuaikannya agar terlihat lebih nyata. Proses ini diulang sebanyak yang diperlukan hingga algoritma kedua tidak mendeteksi gambar palsu.

Dalam video deepfake, suara orang tertentu dapat direplikasi dengan memberikan data audio asli dari orang tersebut kepada model AI, sehingga melatihnya untuk menirunya.

Seringkali, video deepfake diproduksi dengan melakukan overdubbing rekaman seseorang dengan audio baru dari AI yang menirukan suara orang tersebut.

Deepfake, lebih sering dikaitkan dengan motif jahat, termasuk menciptakan informasi yang salah dan menimbulkan kebingungan tentang hal-hal yang penting secara politik.

Penipuan hingga pelecehan seksual

Kepolisian Inggris memperingatkan kecerdasan buatan semakin sering digunakan untuk berbagai kejahatan seperti penipuan, pelecehan seksual, hingga eksploitasi anak.

Alex Murray, Kepala Polisi Nasional bidang AI, mengungkapkan aksesibilitas teknologi yang semakin mudah menjadi faktor utama peningkatan penggunanya oleh pelaku kriminal.

"Kita tahu dari sejarah kepolisian bahwa penjahat itu kreatif dan akan menggunakan apa pun untuk melakukan kejahatan. Mereka sekarang menggunakan AI untuk melakukan kejahatan," kata Murray, mengutip The Guardian beberapa waktu lalu.

Kejahatan ini bisa terjadi dalam skala internasional maupun di tingkat individu.

Salah satu kejahatan AI yang berkembang pesat adalah penggunaan teknologi deepfake untuk melakukan penipuan berskala besar. Murray mengungkapkan contoh kasus penipuan menggunakan video deepfake untuk menyamar sebagai eksekutif perusahaan.

Penggunaan AI yang paling mengkhawatirkan adalah untuk menciptakan konten pelecehan anak. Teknologi generatif AI memungkinkan pelaku membuat ribuan gambar dan video pelecehan seksual anak secara sintetik, yang semuanya ilegal.

Cara deteksi deepfake di halaman berikutnya...