5 Dampak Negatif Deepfake dan AI dalam Pemilu AS
Kamis, 20 Juni 2024 - 16:55 WIB
loading...
Deepfake dan AI memiliki dampak berbahaya pada pemilu AS. Foto/AP
A
A
A
WASHINGTON - Pada tanggal 21 Januari, Patricia Gingrich hendak duduk untuk makan malam ketika telepon rumah berdering. Pemilih di New Hampshire mengangkat telepon dan mendengar suara yang menyuruhnya untuk tidak memilih dalam pemilihan pendahuluan presiden mendatang.
“Saat saya mendengarkannya, saya berpikir, wah, itu terdengar seperti Joe Biden ,” kata Gingrich kepada Al Jazeera. “Tetapi fakta bahwa dia mengatakan untuk menyimpan suara Anda, jangan menggunakannya dalam pemilu berikutnya – saya tahu Joe Biden tidak akan pernah mengatakan itu.”
Suaranya mungkin terdengar seperti presiden Amerika Serikat, tapi itu bukan dia: suara palsu yang dihasilkan oleh kecerdasan buatan (AI).
Para ahli memperingatkan bahwa deepfake – audio, video atau gambar yang dibuat menggunakan alat AI, dengan maksud untuk menyesatkan – menimbulkan risiko tinggi bagi pemilih AS menjelang pemilu bulan November, tidak hanya dengan memasukkan konten palsu ke dalam pemilu tetapi juga dengan mengikis kepercayaan publik.
Gingrich mengatakan dia tidak terpengaruh dengan kebohongan Biden, tapi dia khawatir hal itu mungkin akan menekan jumlah pemilih. Pesan tersebut menjangkau hampir 5.000 pemilih di New Hampshire hanya beberapa hari sebelum pemilihan pendahuluan di negara bagian tersebut.
“Ini bisa berdampak buruk bagi orang-orang yang tidak mendapat informasi tentang apa yang terjadi dengan Partai Demokrat,” kata Gingrich, yang merupakan ketua Komite Demokratik Barrington di Burlington, New Hampshire.
“Jika mereka benar-benar berpikir mereka tidak boleh memilih sesuatu dan Joe Biden mengatakan kepada mereka untuk tidak melakukannya, mungkin mereka tidak akan menghadiri pemungutan suara tersebut.”
![5 Dampak Negatif Deepfake dan AI dalam Pemilu AS]()
Foto/AP
Seruan Biden bukanlah satu-satunya kesalahan dalam siklus pemilu ini. Sebelum membatalkan pencalonannya sebagai presiden, tim kampanye Gubernur Florida Ron DeSantis membagikan video yang berisi gambar Donald Trump yang dibuat oleh AI yang sedang memeluk ahli imunologi Anthony Fauci – dua tokoh yang bentrok di depan umum selama pandemi COVID-19.
Dan pada bulan September, panggilan robot yang berbeda dilakukan kepada 300 pemilih yang diperkirakan akan berpartisipasi dalam pemilihan pendahuluan Partai Republik di Carolina Selatan. Kali ini, penerima mendengar suara yang dihasilkan AI yang meniru Senator Lindsey Graham, menanyakan siapa yang mereka pilih.
Praktik mengubah atau memalsukan konten – terutama untuk kepentingan politik – telah ada sejak awal mula politik Amerika. Bahkan presiden pertama negara itu, George Washington, harus menghadapi serangkaian “surat palsu” yang tampaknya menunjukkan dia mempertanyakan alasan kemerdekaan AS.
Baca Juga: 3 Pelanggaran HAM yang Dilakukan China kepada Warga Muslim Uighur
![5 Dampak Negatif Deepfake dan AI dalam Pemilu AS]()
Foto/AP
Namun alat AI kini sudah cukup canggih untuk secara meyakinkan meniru orang dengan cepat dan murah, sehingga meningkatkan risiko disinformasi.
Sebuah studi yang diterbitkan awal tahun ini oleh para peneliti di Universitas George Washington memperkirakan bahwa, pada pertengahan tahun 2024, “serangan AI” setiap hari akan meningkat, sehingga menimbulkan ancaman terhadap pemilihan umum bulan November.
Penulis utama studi tersebut, Neil Johnson, mengatakan kepada Al Jazeera bahwa risiko tertinggi tidak datang dari robocall palsu baru-baru ini – yang berisi pesan-pesan yang mengejutkan – melainkan dari deepfake yang lebih meyakinkan.
“Ini akan berupa gambar yang berbeda, gambar yang diubah, tidak sepenuhnya informasi palsu karena informasi palsu menarik perhatian pemeriksa disinformasi,” kata Johnson.
Studi ini menemukan bahwa komunitas online terhubung sedemikian rupa sehingga memungkinkan pelaku kejahatan mengirimkan media yang dimanipulasi dalam jumlah besar langsung ke arus utama.
Komunitas di swing states bisa menjadi sangat rentan, begitu pula kelompok pengasuhan anak di platform seperti Facebook.
“Peran komunitas orang tua akan sangat besar,” kata Johnson, seraya menunjuk pada cepatnya penyebaran misinformasi vaksin selama pandemi ini sebagai contoh.
“Saat saya mendengarkannya, saya berpikir, wah, itu terdengar seperti Joe Biden ,” kata Gingrich kepada Al Jazeera. “Tetapi fakta bahwa dia mengatakan untuk menyimpan suara Anda, jangan menggunakannya dalam pemilu berikutnya – saya tahu Joe Biden tidak akan pernah mengatakan itu.”
Suaranya mungkin terdengar seperti presiden Amerika Serikat, tapi itu bukan dia: suara palsu yang dihasilkan oleh kecerdasan buatan (AI).
Para ahli memperingatkan bahwa deepfake – audio, video atau gambar yang dibuat menggunakan alat AI, dengan maksud untuk menyesatkan – menimbulkan risiko tinggi bagi pemilih AS menjelang pemilu bulan November, tidak hanya dengan memasukkan konten palsu ke dalam pemilu tetapi juga dengan mengikis kepercayaan publik.
Gingrich mengatakan dia tidak terpengaruh dengan kebohongan Biden, tapi dia khawatir hal itu mungkin akan menekan jumlah pemilih. Pesan tersebut menjangkau hampir 5.000 pemilih di New Hampshire hanya beberapa hari sebelum pemilihan pendahuluan di negara bagian tersebut.
“Ini bisa berdampak buruk bagi orang-orang yang tidak mendapat informasi tentang apa yang terjadi dengan Partai Demokrat,” kata Gingrich, yang merupakan ketua Komite Demokratik Barrington di Burlington, New Hampshire.
“Jika mereka benar-benar berpikir mereka tidak boleh memilih sesuatu dan Joe Biden mengatakan kepada mereka untuk tidak melakukannya, mungkin mereka tidak akan menghadiri pemungutan suara tersebut.”
5 Dampak Negatif Deepfake dan AI dalam Pemilu AS
1. Kelompok Online Paling Rentan
Foto/AP
Seruan Biden bukanlah satu-satunya kesalahan dalam siklus pemilu ini. Sebelum membatalkan pencalonannya sebagai presiden, tim kampanye Gubernur Florida Ron DeSantis membagikan video yang berisi gambar Donald Trump yang dibuat oleh AI yang sedang memeluk ahli imunologi Anthony Fauci – dua tokoh yang bentrok di depan umum selama pandemi COVID-19.
Dan pada bulan September, panggilan robot yang berbeda dilakukan kepada 300 pemilih yang diperkirakan akan berpartisipasi dalam pemilihan pendahuluan Partai Republik di Carolina Selatan. Kali ini, penerima mendengar suara yang dihasilkan AI yang meniru Senator Lindsey Graham, menanyakan siapa yang mereka pilih.
Praktik mengubah atau memalsukan konten – terutama untuk kepentingan politik – telah ada sejak awal mula politik Amerika. Bahkan presiden pertama negara itu, George Washington, harus menghadapi serangkaian “surat palsu” yang tampaknya menunjukkan dia mempertanyakan alasan kemerdekaan AS.
Baca Juga: 3 Pelanggaran HAM yang Dilakukan China kepada Warga Muslim Uighur
2. Lebih Murah dan Memicu Disinformasi
Foto/AP
Namun alat AI kini sudah cukup canggih untuk secara meyakinkan meniru orang dengan cepat dan murah, sehingga meningkatkan risiko disinformasi.
Sebuah studi yang diterbitkan awal tahun ini oleh para peneliti di Universitas George Washington memperkirakan bahwa, pada pertengahan tahun 2024, “serangan AI” setiap hari akan meningkat, sehingga menimbulkan ancaman terhadap pemilihan umum bulan November.
Penulis utama studi tersebut, Neil Johnson, mengatakan kepada Al Jazeera bahwa risiko tertinggi tidak datang dari robocall palsu baru-baru ini – yang berisi pesan-pesan yang mengejutkan – melainkan dari deepfake yang lebih meyakinkan.
“Ini akan berupa gambar yang berbeda, gambar yang diubah, tidak sepenuhnya informasi palsu karena informasi palsu menarik perhatian pemeriksa disinformasi,” kata Johnson.
Studi ini menemukan bahwa komunitas online terhubung sedemikian rupa sehingga memungkinkan pelaku kejahatan mengirimkan media yang dimanipulasi dalam jumlah besar langsung ke arus utama.
Komunitas di swing states bisa menjadi sangat rentan, begitu pula kelompok pengasuhan anak di platform seperti Facebook.
“Peran komunitas orang tua akan sangat besar,” kata Johnson, seraya menunjuk pada cepatnya penyebaran misinformasi vaksin selama pandemi ini sebagai contoh.
Lihat Juga :
