5 Dampak Negatif Deepfake dan AI dalam Pemilu AS
Kamis, 20 Juni 2024 - 16:55 WIB
Komunitas di swing states bisa menjadi sangat rentan, begitu pula kelompok pengasuhan anak di platform seperti Facebook.
“Peran komunitas orang tua akan sangat besar,” kata Johnson, seraya menunjuk pada cepatnya penyebaran misinformasi vaksin selama pandemi ini sebagai contoh.
“Saya pikir kita akan tiba-tiba dihadapkan pada gelombang [disinformasi] – banyak hal yang tidak palsu, bukan tidak benar, tetapi menyebarkan kebenaran.”
Foto/AP
Namun, para pemilih sendiri bukanlah satu-satunya target deepfake. Larry Norden, direktur senior Program Pemilu dan Pemerintahan di Brennan Center for Justice, telah bekerja sama dengan pejabat pemilu untuk membantu mereka mengenali konten palsu.
Misalnya, Norden mengatakan pelaku kejahatan dapat menggunakan alat AI untuk menginstruksikan petugas pemilu agar menutup tempat pemungutan suara sebelum waktunya, dengan memanipulasi suara atasan mereka atau dengan mengirimkan pesan yang seolah-olah melalui akun pengawas.
Dia mengajari petugas pemungutan suara untuk melindungi diri mereka sendiri dengan memverifikasi pesan yang mereka terima.
Norden menekankan bahwa pelaku kejahatan dapat membuat konten yang menyesatkan tanpa AI. “Keunggulan AI adalah membuatnya lebih mudah untuk dilakukan dalam skala besar,” katanya.
Tahun lalu, Norden mengilustrasikan kemampuan AI dengan membuat video palsu dirinya untuk presentasi tentang risiko yang ditimbulkan oleh teknologi tersebut.
“Tidak butuh waktu lama,” kata Norden, menjelaskan bahwa yang harus dia lakukan hanyalah memasukkan wawancara TV sebelumnya ke dalam sebuah aplikasi.
Avatarnya tidak sempurna – wajahnya sedikit buram, suaranya sedikit terputus-putus – tetapi Norden mencatat bahwa alat AI berkembang pesat. “Sejak kami merekamnya, teknologinya menjadi semakin canggih, dan menurut saya semakin sulit untuk membedakannya.”
Teknologi saja bukanlah masalahnya. Ketika deepfake menjadi lebih umum, masyarakat akan menjadi lebih menyadarinya dan lebih skeptis terhadap konten yang mereka konsumsi.
Hal ini dapat mengikis kepercayaan publik, dan pemilih cenderung menolak informasi yang sebenarnya. Tokoh politik juga bisa menyalahgunakan skeptisisme tersebut untuk kepentingan mereka sendiri.
Foto/AP
Pakar hukum menyebut fenomena ini sebagai “keuntungan pembohong”: Kekhawatiran terhadap deepfake dapat memudahkan subjek rekaman audio atau video yang sah untuk mengklaim bahwa rekaman tersebut palsu.
Norden menunjuk audio Access Hollywood yang muncul sebelum pemilu 2016 sebagai contoh. Dalam klip tersebut, Trump terdengar berbicara tentang interaksinya dengan perempuan: “Anda bisa melakukan apa saja. Pegang vaginanya.”
Rekaman itu – yang sangat nyata – dianggap merusak prospek Trump di kalangan pemilih perempuan. Namun jika audio serupa bocor hari ini, Norden mengatakan seorang kandidat dapat dengan mudah menyebutnya palsu. “Akan lebih mudah bagi masyarakat untuk mengabaikan hal semacam itu dibandingkan beberapa tahun yang lalu.”
Norden menambahkan, “Salah satu masalah yang kita hadapi saat ini di AS adalah kurangnya kepercayaan, dan ini hanya akan memperburuk keadaan.”
“Peran komunitas orang tua akan sangat besar,” kata Johnson, seraya menunjuk pada cepatnya penyebaran misinformasi vaksin selama pandemi ini sebagai contoh.
“Saya pikir kita akan tiba-tiba dihadapkan pada gelombang [disinformasi] – banyak hal yang tidak palsu, bukan tidak benar, tetapi menyebarkan kebenaran.”
3. Mengikis Kepercayaan Masyarakat
Foto/AP
Namun, para pemilih sendiri bukanlah satu-satunya target deepfake. Larry Norden, direktur senior Program Pemilu dan Pemerintahan di Brennan Center for Justice, telah bekerja sama dengan pejabat pemilu untuk membantu mereka mengenali konten palsu.
Misalnya, Norden mengatakan pelaku kejahatan dapat menggunakan alat AI untuk menginstruksikan petugas pemilu agar menutup tempat pemungutan suara sebelum waktunya, dengan memanipulasi suara atasan mereka atau dengan mengirimkan pesan yang seolah-olah melalui akun pengawas.
Dia mengajari petugas pemungutan suara untuk melindungi diri mereka sendiri dengan memverifikasi pesan yang mereka terima.
Norden menekankan bahwa pelaku kejahatan dapat membuat konten yang menyesatkan tanpa AI. “Keunggulan AI adalah membuatnya lebih mudah untuk dilakukan dalam skala besar,” katanya.
Tahun lalu, Norden mengilustrasikan kemampuan AI dengan membuat video palsu dirinya untuk presentasi tentang risiko yang ditimbulkan oleh teknologi tersebut.
“Tidak butuh waktu lama,” kata Norden, menjelaskan bahwa yang harus dia lakukan hanyalah memasukkan wawancara TV sebelumnya ke dalam sebuah aplikasi.
Avatarnya tidak sempurna – wajahnya sedikit buram, suaranya sedikit terputus-putus – tetapi Norden mencatat bahwa alat AI berkembang pesat. “Sejak kami merekamnya, teknologinya menjadi semakin canggih, dan menurut saya semakin sulit untuk membedakannya.”
Teknologi saja bukanlah masalahnya. Ketika deepfake menjadi lebih umum, masyarakat akan menjadi lebih menyadarinya dan lebih skeptis terhadap konten yang mereka konsumsi.
Hal ini dapat mengikis kepercayaan publik, dan pemilih cenderung menolak informasi yang sebenarnya. Tokoh politik juga bisa menyalahgunakan skeptisisme tersebut untuk kepentingan mereka sendiri.
4. Hanya Menguntungkan Pembohong
Foto/AP
Pakar hukum menyebut fenomena ini sebagai “keuntungan pembohong”: Kekhawatiran terhadap deepfake dapat memudahkan subjek rekaman audio atau video yang sah untuk mengklaim bahwa rekaman tersebut palsu.
Norden menunjuk audio Access Hollywood yang muncul sebelum pemilu 2016 sebagai contoh. Dalam klip tersebut, Trump terdengar berbicara tentang interaksinya dengan perempuan: “Anda bisa melakukan apa saja. Pegang vaginanya.”
Rekaman itu – yang sangat nyata – dianggap merusak prospek Trump di kalangan pemilih perempuan. Namun jika audio serupa bocor hari ini, Norden mengatakan seorang kandidat dapat dengan mudah menyebutnya palsu. “Akan lebih mudah bagi masyarakat untuk mengabaikan hal semacam itu dibandingkan beberapa tahun yang lalu.”
Norden menambahkan, “Salah satu masalah yang kita hadapi saat ini di AS adalah kurangnya kepercayaan, dan ini hanya akan memperburuk keadaan.”
5. Belum Ada Hukum Kuat Mengaturnya
Lihat Juga :