5 Dampak Negatif Deepfake dan AI dalam Pemilu AS
Kamis, 20 Juni 2024 - 16:55 WIB
Seruan Biden bukanlah satu-satunya kesalahan dalam siklus pemilu ini. Sebelum membatalkan pencalonannya sebagai presiden, tim kampanye Gubernur Florida Ron DeSantis membagikan video yang berisi gambar Donald Trump yang dibuat oleh AI yang sedang memeluk ahli imunologi Anthony Fauci – dua tokoh yang bentrok di depan umum selama pandemi COVID-19.
Dan pada bulan September, panggilan robot yang berbeda dilakukan kepada 300 pemilih yang diperkirakan akan berpartisipasi dalam pemilihan pendahuluan Partai Republik di Carolina Selatan. Kali ini, penerima mendengar suara yang dihasilkan AI yang meniru Senator Lindsey Graham, menanyakan siapa yang mereka pilih.
Praktik mengubah atau memalsukan konten – terutama untuk kepentingan politik – telah ada sejak awal mula politik Amerika. Bahkan presiden pertama negara itu, George Washington, harus menghadapi serangkaian “surat palsu” yang tampaknya menunjukkan dia mempertanyakan alasan kemerdekaan AS.
Foto/AP
Namun alat AI kini sudah cukup canggih untuk secara meyakinkan meniru orang dengan cepat dan murah, sehingga meningkatkan risiko disinformasi.
Sebuah studi yang diterbitkan awal tahun ini oleh para peneliti di Universitas George Washington memperkirakan bahwa, pada pertengahan tahun 2024, “serangan AI” setiap hari akan meningkat, sehingga menimbulkan ancaman terhadap pemilihan umum bulan November.
Penulis utama studi tersebut, Neil Johnson, mengatakan kepada Al Jazeera bahwa risiko tertinggi tidak datang dari robocall palsu baru-baru ini – yang berisi pesan-pesan yang mengejutkan – melainkan dari deepfake yang lebih meyakinkan.
“Ini akan berupa gambar yang berbeda, gambar yang diubah, tidak sepenuhnya informasi palsu karena informasi palsu menarik perhatian pemeriksa disinformasi,” kata Johnson.
Dan pada bulan September, panggilan robot yang berbeda dilakukan kepada 300 pemilih yang diperkirakan akan berpartisipasi dalam pemilihan pendahuluan Partai Republik di Carolina Selatan. Kali ini, penerima mendengar suara yang dihasilkan AI yang meniru Senator Lindsey Graham, menanyakan siapa yang mereka pilih.
Praktik mengubah atau memalsukan konten – terutama untuk kepentingan politik – telah ada sejak awal mula politik Amerika. Bahkan presiden pertama negara itu, George Washington, harus menghadapi serangkaian “surat palsu” yang tampaknya menunjukkan dia mempertanyakan alasan kemerdekaan AS.
2. Lebih Murah dan Memicu Disinformasi
Foto/AP
Namun alat AI kini sudah cukup canggih untuk secara meyakinkan meniru orang dengan cepat dan murah, sehingga meningkatkan risiko disinformasi.
Sebuah studi yang diterbitkan awal tahun ini oleh para peneliti di Universitas George Washington memperkirakan bahwa, pada pertengahan tahun 2024, “serangan AI” setiap hari akan meningkat, sehingga menimbulkan ancaman terhadap pemilihan umum bulan November.
Penulis utama studi tersebut, Neil Johnson, mengatakan kepada Al Jazeera bahwa risiko tertinggi tidak datang dari robocall palsu baru-baru ini – yang berisi pesan-pesan yang mengejutkan – melainkan dari deepfake yang lebih meyakinkan.
“Ini akan berupa gambar yang berbeda, gambar yang diubah, tidak sepenuhnya informasi palsu karena informasi palsu menarik perhatian pemeriksa disinformasi,” kata Johnson.
tulis komentar anda