5 Dampak Negatif Deepfake dan AI dalam Pemilu AS

2. Lebih Murah dan Memicu Disinformasi

Foto/AP

Namun alat AI kini sudah cukup canggih untuk secara meyakinkan meniru orang dengan cepat dan murah, sehingga meningkatkan risiko disinformasi.

Sebuah studi yang diterbitkan awal tahun ini oleh para peneliti di Universitas George Washington memperkirakan bahwa, pada pertengahan tahun 2024, “serangan AI” setiap hari akan meningkat, sehingga menimbulkan ancaman terhadap pemilihan umum bulan November.

Penulis utama studi tersebut, Neil Johnson, mengatakan kepada Al Jazeera bahwa risiko tertinggi tidak datang dari robocall palsu baru-baru ini – yang berisi pesan-pesan yang mengejutkan – melainkan dari deepfake yang lebih meyakinkan.

“Ini akan berupa gambar yang berbeda, gambar yang diubah, tidak sepenuhnya informasi palsu karena informasi palsu menarik perhatian pemeriksa disinformasi,” kata Johnson.

Studi ini menemukan bahwa komunitas online terhubung sedemikian rupa sehingga memungkinkan pelaku kejahatan mengirimkan media yang dimanipulasi dalam jumlah besar langsung ke arus utama.

Komunitas di swing states bisa menjadi sangat rentan, begitu pula kelompok pengasuhan anak di platform seperti Facebook.

“Peran komunitas orang tua akan sangat besar,” kata Johnson, seraya menunjuk pada cepatnya penyebaran misinformasi vaksin selama pandemi ini sebagai contoh.

“Saya pikir kita akan tiba-tiba dihadapkan pada gelombang [disinformasi] – banyak hal yang tidak palsu, bukan tidak benar, tetapi menyebarkan kebenaran.”

3. Mengikis Kepercayaan Masyarakat

Foto/AP

Namun, para pemilih sendiri bukanlah satu-satunya target deepfake. Larry Norden, direktur senior Program Pemilu dan Pemerintahan di Brennan Center for Justice, telah bekerja sama dengan pejabat pemilu untuk membantu mereka mengenali konten palsu.