5 Dampak Negatif Deepfake dan AI dalam Pemilu AS
Kamis, 20 Juni 2024 - 16:55 WIB
loading...
A
A
A
“Saya pikir kita akan tiba-tiba dihadapkan pada gelombang [disinformasi] – banyak hal yang tidak palsu, bukan tidak benar, tetapi menyebarkan kebenaran.”
![5 Dampak Negatif Deepfake dan AI dalam Pemilu AS]()
Foto/AP
Namun, para pemilih sendiri bukanlah satu-satunya target deepfake. Larry Norden, direktur senior Program Pemilu dan Pemerintahan di Brennan Center for Justice, telah bekerja sama dengan pejabat pemilu untuk membantu mereka mengenali konten palsu.
Misalnya, Norden mengatakan pelaku kejahatan dapat menggunakan alat AI untuk menginstruksikan petugas pemilu agar menutup tempat pemungutan suara sebelum waktunya, dengan memanipulasi suara atasan mereka atau dengan mengirimkan pesan yang seolah-olah melalui akun pengawas.
Dia mengajari petugas pemungutan suara untuk melindungi diri mereka sendiri dengan memverifikasi pesan yang mereka terima.
Norden menekankan bahwa pelaku kejahatan dapat membuat konten yang menyesatkan tanpa AI. “Keunggulan AI adalah membuatnya lebih mudah untuk dilakukan dalam skala besar,” katanya.
Tahun lalu, Norden mengilustrasikan kemampuan AI dengan membuat video palsu dirinya untuk presentasi tentang risiko yang ditimbulkan oleh teknologi tersebut.
“Tidak butuh waktu lama,” kata Norden, menjelaskan bahwa yang harus dia lakukan hanyalah memasukkan wawancara TV sebelumnya ke dalam sebuah aplikasi.
Avatarnya tidak sempurna – wajahnya sedikit buram, suaranya sedikit terputus-putus – tetapi Norden mencatat bahwa alat AI berkembang pesat. “Sejak kami merekamnya, teknologinya menjadi semakin canggih, dan menurut saya semakin sulit untuk membedakannya.”
Teknologi saja bukanlah masalahnya. Ketika deepfake menjadi lebih umum, masyarakat akan menjadi lebih menyadarinya dan lebih skeptis terhadap konten yang mereka konsumsi.
Hal ini dapat mengikis kepercayaan publik, dan pemilih cenderung menolak informasi yang sebenarnya. Tokoh politik juga bisa menyalahgunakan skeptisisme tersebut untuk kepentingan mereka sendiri.
![5 Dampak Negatif Deepfake dan AI dalam Pemilu AS]()
Foto/AP
Pakar hukum menyebut fenomena ini sebagai “keuntungan pembohong”: Kekhawatiran terhadap deepfake dapat memudahkan subjek rekaman audio atau video yang sah untuk mengklaim bahwa rekaman tersebut palsu.
Norden menunjuk audio Access Hollywood yang muncul sebelum pemilu 2016 sebagai contoh. Dalam klip tersebut, Trump terdengar berbicara tentang interaksinya dengan perempuan: “Anda bisa melakukan apa saja. Pegang vaginanya.”
Rekaman itu – yang sangat nyata – dianggap merusak prospek Trump di kalangan pemilih perempuan. Namun jika audio serupa bocor hari ini, Norden mengatakan seorang kandidat dapat dengan mudah menyebutnya palsu. “Akan lebih mudah bagi masyarakat untuk mengabaikan hal semacam itu dibandingkan beberapa tahun yang lalu.”
Norden menambahkan, “Salah satu masalah yang kita hadapi saat ini di AS adalah kurangnya kepercayaan, dan ini hanya akan memperburuk keadaan.”
![5 Dampak Negatif Deepfake dan AI dalam Pemilu AS]()
Foto/AP
Meskipun deepfake semakin menjadi perhatian dalam pemilu AS, hanya sedikit undang-undang federal yang membatasi penggunaannya. Komisi Pemilihan Umum Federal (FEC) belum membatasi deepfake dalam pemilu, dan rancangan undang-undang di Kongres masih terhenti.
Masing-masing negara bagian berupaya mengisi kekosongan tersebut. Menurut pelacak undang-undang yang diterbitkan oleh organisasi advokasi konsumen Public Citizen, sejauh ini 20 undang-undang negara bagian telah diberlakukan untuk mengatur deepfake dalam pemilu.
Beberapa rancangan undang-undang lainnya – di Hawaii, Louisiana dan New Hampshire – telah disahkan dan sedang menunggu tanda tangan gubernur.
Norden mengatakan dia tidak terkejut melihat masing-masing negara bagian bertindak di hadapan Kongres. “Negara seharusnya menjadi laboratorium demokrasi, sehingga hal ini kembali terbukti: negaralah yang bertindak terlebih dahulu. Kita semua tahu sangat sulit untuk meloloskan apa pun di Kongres,” katanya.
3. Mengikis Kepercayaan Masyarakat
Foto/AP
Namun, para pemilih sendiri bukanlah satu-satunya target deepfake. Larry Norden, direktur senior Program Pemilu dan Pemerintahan di Brennan Center for Justice, telah bekerja sama dengan pejabat pemilu untuk membantu mereka mengenali konten palsu.
Misalnya, Norden mengatakan pelaku kejahatan dapat menggunakan alat AI untuk menginstruksikan petugas pemilu agar menutup tempat pemungutan suara sebelum waktunya, dengan memanipulasi suara atasan mereka atau dengan mengirimkan pesan yang seolah-olah melalui akun pengawas.
Dia mengajari petugas pemungutan suara untuk melindungi diri mereka sendiri dengan memverifikasi pesan yang mereka terima.
Norden menekankan bahwa pelaku kejahatan dapat membuat konten yang menyesatkan tanpa AI. “Keunggulan AI adalah membuatnya lebih mudah untuk dilakukan dalam skala besar,” katanya.
Tahun lalu, Norden mengilustrasikan kemampuan AI dengan membuat video palsu dirinya untuk presentasi tentang risiko yang ditimbulkan oleh teknologi tersebut.
“Tidak butuh waktu lama,” kata Norden, menjelaskan bahwa yang harus dia lakukan hanyalah memasukkan wawancara TV sebelumnya ke dalam sebuah aplikasi.
Avatarnya tidak sempurna – wajahnya sedikit buram, suaranya sedikit terputus-putus – tetapi Norden mencatat bahwa alat AI berkembang pesat. “Sejak kami merekamnya, teknologinya menjadi semakin canggih, dan menurut saya semakin sulit untuk membedakannya.”
Teknologi saja bukanlah masalahnya. Ketika deepfake menjadi lebih umum, masyarakat akan menjadi lebih menyadarinya dan lebih skeptis terhadap konten yang mereka konsumsi.
Hal ini dapat mengikis kepercayaan publik, dan pemilih cenderung menolak informasi yang sebenarnya. Tokoh politik juga bisa menyalahgunakan skeptisisme tersebut untuk kepentingan mereka sendiri.
4. Hanya Menguntungkan Pembohong
Foto/AP
Pakar hukum menyebut fenomena ini sebagai “keuntungan pembohong”: Kekhawatiran terhadap deepfake dapat memudahkan subjek rekaman audio atau video yang sah untuk mengklaim bahwa rekaman tersebut palsu.
Norden menunjuk audio Access Hollywood yang muncul sebelum pemilu 2016 sebagai contoh. Dalam klip tersebut, Trump terdengar berbicara tentang interaksinya dengan perempuan: “Anda bisa melakukan apa saja. Pegang vaginanya.”
Rekaman itu – yang sangat nyata – dianggap merusak prospek Trump di kalangan pemilih perempuan. Namun jika audio serupa bocor hari ini, Norden mengatakan seorang kandidat dapat dengan mudah menyebutnya palsu. “Akan lebih mudah bagi masyarakat untuk mengabaikan hal semacam itu dibandingkan beberapa tahun yang lalu.”
Norden menambahkan, “Salah satu masalah yang kita hadapi saat ini di AS adalah kurangnya kepercayaan, dan ini hanya akan memperburuk keadaan.”
5. Belum Ada Hukum Kuat Mengaturnya
Foto/AP
Meskipun deepfake semakin menjadi perhatian dalam pemilu AS, hanya sedikit undang-undang federal yang membatasi penggunaannya. Komisi Pemilihan Umum Federal (FEC) belum membatasi deepfake dalam pemilu, dan rancangan undang-undang di Kongres masih terhenti.
Masing-masing negara bagian berupaya mengisi kekosongan tersebut. Menurut pelacak undang-undang yang diterbitkan oleh organisasi advokasi konsumen Public Citizen, sejauh ini 20 undang-undang negara bagian telah diberlakukan untuk mengatur deepfake dalam pemilu.
Beberapa rancangan undang-undang lainnya – di Hawaii, Louisiana dan New Hampshire – telah disahkan dan sedang menunggu tanda tangan gubernur.
Norden mengatakan dia tidak terkejut melihat masing-masing negara bagian bertindak di hadapan Kongres. “Negara seharusnya menjadi laboratorium demokrasi, sehingga hal ini kembali terbukti: negaralah yang bertindak terlebih dahulu. Kita semua tahu sangat sulit untuk meloloskan apa pun di Kongres,” katanya.
Lihat Juga :
