Hati-hati Masyarakat Dengan Deepfake
IMBCNEWS.com Jakarta | Saat ini masyarkat sering disuguhkan tontonan asli tetapi palsu (aspal), melalui akun tik-tok atau media sosial lainnya. Seperti di aplikasi X, tidak sedikit orang yang mengakui, dirinya pernah menjadi korban manipulasi foto, dari foto berbusana menjadi tak berbusana.
Teknik memanipulasi gambar atau video dengan AI sehingga tercipta konten baru yang terlihat asli dan menyakinkan itu disebut Deepfake. Presiden Prabowo Subianto sendiri pernah dibuat “deepfake” ia berbicara seolah benar adanya,padahalitu mrupakan manipulasi lewat IA. Mulut Prabowo dalam video itu tampak bergerak dan matanya berkedip, ternyata video tersebut bagian dari penipuan deepfake yang diungkap polisi pada bulan lalu, yang berhasil mengelabui warga di 20 provinsi.
Presiden Prabowo Subianto tampak mengenakan topi dan jas berwarna hitam, muncul dalam sebuah video di Instagram. Dalam video itu, ia menanyakan kepada masyarakat bagaimana ia bisa membantu setelah terpilih tahun lalu.
“Siapa yang belum menerima bantuan dari saya? Apa kebutuhan kalian saat ini?” Prabowo tampak bertanya kepada pemirsa dalam klip yang diunggah pada November.
Namun, meskipun mulut Prabowo tampak bergerak dan matanya berkedip, kata-kata yang diucapkannya ternyata merupakan penipuan yang mencatut namanya. Video tersebut ternyata bagian dari penipuan deepfake yang diungkap polisi pada bulan lalu, yang berhasil mengelabui warga di 20 provinsi.
Warga yang termakan oleh aksi penipuan itu diminta menghubungi nomor WhatsApp dan membayar “biaya administrasi” antara Rp250.000 hingga Rp1 juta. Namun, bantuan yang dijanjikan itu hanya bualan belaka.
Sejak pemilu tahun lalu, sejumlah pakar sudah memperingatkan tentang potensi lonjakan deepfake yang semakin canggih. Audio, gambar, dan video yang tampak berasal dari tokoh terkenal ternyata hasil manipulasi penipu dengan menggunakan kecerdasan buatan.
Dan para korban mengatakan, tipuan tersebut sangat canggih dan tampak nyata sehingga membuat orang lain rentan untuk ditipu juga.
“Orang-orang harus lebih berhati-hati. Jangan gampang tergiur iming-iming hadiah,” kata Aryani (56 tahun), yang sempat tertipu dan menyerahkan Rp200.000 setelah melihat video deepfake seorang pengusaha terkemuka di Tanah Air.
“Saya butuh uang, tetapi sebaliknya saya diminta untuk mengirim uang. Mereka bahkan melakukan panggilan video dengan saya, seolah-olah saya berbicara langsung dengan mereka,” ujarnya.
Selama kampanye pilpres, deepfake menjadi senjata utama dalam menyebarkan misinformasi. Teknologi ini digunakan baik untuk merugikan maupun menguntungkan para kandidat.
Namun, kini teknologi tersebut dimanfaatkan oleh para penjahat untuk meraup keuntungan dengan menipu.
Polisi berhasil menangkap seorang tersangka yang berhasil meraup Rp65 juta dari penipuan ini, ujar Direktur Unit Kejahatan Siber Bareskrim Polri Himawan Bayu Aji pada Februari.
Ia menambahkan bahwa petugas juga menahan tersangka kedua yang terlibat dalam penipuan serupa dengan menggunakan teknologi deepfake. Namun, berapa uang hasil aksi penipuan itu tidak dijelaskan.
Hasil investigasi Fact Check AFP mengungkap bahwa penyebaran video deepfake ternyata jauh lebih banyak dan luas, tidak hanya pada dua akun yang diumumkan polisi itu.
Video deepfake yang mencatut nama Presiden Prabowo masih beredar di media sosial meski sudah ada penangkapan tersebut. Puluhan video serupa juga muncul di TikTok dengan tagar “Prabowo berbagi berkah.”
Sejak Prabowo resmi menjabat pada Oktober, setidaknya 22 akun TikTok ketahuan mempromosikan penipuan serupa, menurut jurnalis AFP. Beberapa di antaranya bahkan sengaja memanfaatkan momen pelantikannya sebagai presiden untuk menarik lebih banyak korban.
Sebuah akun dengan lebih dari 77.000 pengikut berhasil menarik 7,5 juta penayangan dengan video deepfake Prabowo yang seolah-olah menawarkan bantuan keuangan.
imbcnews/voa ind/diolah/
