5 Dampak Negatif Deepfake dan AI dalam Pemilu AS
Kamis, 20 Juni 2024 - 16:55 WIB
Tahun lalu, Norden mengilustrasikan kemampuan AI dengan membuat video palsu dirinya untuk presentasi tentang risiko yang ditimbulkan oleh teknologi tersebut.
“Tidak butuh waktu lama,” kata Norden, menjelaskan bahwa yang harus dia lakukan hanyalah memasukkan wawancara TV sebelumnya ke dalam sebuah aplikasi.
Avatarnya tidak sempurna – wajahnya sedikit buram, suaranya sedikit terputus-putus – tetapi Norden mencatat bahwa alat AI berkembang pesat. “Sejak kami merekamnya, teknologinya menjadi semakin canggih, dan menurut saya semakin sulit untuk membedakannya.”
Teknologi saja bukanlah masalahnya. Ketika deepfake menjadi lebih umum, masyarakat akan menjadi lebih menyadarinya dan lebih skeptis terhadap konten yang mereka konsumsi.
Hal ini dapat mengikis kepercayaan publik, dan pemilih cenderung menolak informasi yang sebenarnya. Tokoh politik juga bisa menyalahgunakan skeptisisme tersebut untuk kepentingan mereka sendiri.
Foto/AP
Pakar hukum menyebut fenomena ini sebagai “keuntungan pembohong”: Kekhawatiran terhadap deepfake dapat memudahkan subjek rekaman audio atau video yang sah untuk mengklaim bahwa rekaman tersebut palsu.
Norden menunjuk audio Access Hollywood yang muncul sebelum pemilu 2016 sebagai contoh. Dalam klip tersebut, Trump terdengar berbicara tentang interaksinya dengan perempuan: “Anda bisa melakukan apa saja. Pegang vaginanya.”
Rekaman itu – yang sangat nyata – dianggap merusak prospek Trump di kalangan pemilih perempuan. Namun jika audio serupa bocor hari ini, Norden mengatakan seorang kandidat dapat dengan mudah menyebutnya palsu. “Akan lebih mudah bagi masyarakat untuk mengabaikan hal semacam itu dibandingkan beberapa tahun yang lalu.”
“Tidak butuh waktu lama,” kata Norden, menjelaskan bahwa yang harus dia lakukan hanyalah memasukkan wawancara TV sebelumnya ke dalam sebuah aplikasi.
Avatarnya tidak sempurna – wajahnya sedikit buram, suaranya sedikit terputus-putus – tetapi Norden mencatat bahwa alat AI berkembang pesat. “Sejak kami merekamnya, teknologinya menjadi semakin canggih, dan menurut saya semakin sulit untuk membedakannya.”
Teknologi saja bukanlah masalahnya. Ketika deepfake menjadi lebih umum, masyarakat akan menjadi lebih menyadarinya dan lebih skeptis terhadap konten yang mereka konsumsi.
Hal ini dapat mengikis kepercayaan publik, dan pemilih cenderung menolak informasi yang sebenarnya. Tokoh politik juga bisa menyalahgunakan skeptisisme tersebut untuk kepentingan mereka sendiri.
4. Hanya Menguntungkan Pembohong
Foto/AP
Pakar hukum menyebut fenomena ini sebagai “keuntungan pembohong”: Kekhawatiran terhadap deepfake dapat memudahkan subjek rekaman audio atau video yang sah untuk mengklaim bahwa rekaman tersebut palsu.
Norden menunjuk audio Access Hollywood yang muncul sebelum pemilu 2016 sebagai contoh. Dalam klip tersebut, Trump terdengar berbicara tentang interaksinya dengan perempuan: “Anda bisa melakukan apa saja. Pegang vaginanya.”
Rekaman itu – yang sangat nyata – dianggap merusak prospek Trump di kalangan pemilih perempuan. Namun jika audio serupa bocor hari ini, Norden mengatakan seorang kandidat dapat dengan mudah menyebutnya palsu. “Akan lebih mudah bagi masyarakat untuk mengabaikan hal semacam itu dibandingkan beberapa tahun yang lalu.”
tulis komentar anda