5 Dampak Negatif Deepfake dan AI dalam Pemilu AS

Studi ini menemukan bahwa komunitas online terhubung sedemikian rupa sehingga memungkinkan pelaku kejahatan mengirimkan media yang dimanipulasi dalam jumlah besar langsung ke arus utama.

Komunitas di swing states bisa menjadi sangat rentan, begitu pula kelompok pengasuhan anak di platform seperti Facebook.

“Peran komunitas orang tua akan sangat besar,” kata Johnson, seraya menunjuk pada cepatnya penyebaran misinformasi vaksin selama pandemi ini sebagai contoh.

“Saya pikir kita akan tiba-tiba dihadapkan pada gelombang [disinformasi] – banyak hal yang tidak palsu, bukan tidak benar, tetapi menyebarkan kebenaran.”

3. Mengikis Kepercayaan Masyarakat

Foto/AP

Namun, para pemilih sendiri bukanlah satu-satunya target deepfake. Larry Norden, direktur senior Program Pemilu dan Pemerintahan di Brennan Center for Justice, telah bekerja sama dengan pejabat pemilu untuk membantu mereka mengenali konten palsu.

Misalnya, Norden mengatakan pelaku kejahatan dapat menggunakan alat AI untuk menginstruksikan petugas pemilu agar menutup tempat pemungutan suara sebelum waktunya, dengan memanipulasi suara atasan mereka atau dengan mengirimkan pesan yang seolah-olah melalui akun pengawas.

Dia mengajari petugas pemungutan suara untuk melindungi diri mereka sendiri dengan memverifikasi pesan yang mereka terima.

Norden menekankan bahwa pelaku kejahatan dapat membuat konten yang menyesatkan tanpa AI. “Keunggulan AI adalah membuatnya lebih mudah untuk dilakukan dalam skala besar,” katanya.