5 Dampak Negatif Deepfake dan AI dalam Pemilu AS

WASHINGTON - Pada tanggal 21 Januari, Patricia Gingrich hendak duduk untuk makan malam ketika telepon rumah berdering. Pemilih di New Hampshire mengangkat telepon dan mendengar suara yang menyuruhnya untuk tidak memilih dalam pemilihan pendahuluan presiden mendatang.

“Saat saya mendengarkannya, saya berpikir, wah, itu terdengar seperti Joe Biden ,” kata Gingrich kepada Al Jazeera. “Tetapi fakta bahwa dia mengatakan untuk menyimpan suara Anda, jangan menggunakannya dalam pemilu berikutnya – saya tahu Joe Biden tidak akan pernah mengatakan itu.”

Suaranya mungkin terdengar seperti presiden Amerika Serikat, tapi itu bukan dia: suara palsu yang dihasilkan oleh kecerdasan buatan (AI).

Para ahli memperingatkan bahwa deepfake – audio, video atau gambar yang dibuat menggunakan alat AI, dengan maksud untuk menyesatkan – menimbulkan risiko tinggi bagi pemilih AS menjelang pemilu bulan November, tidak hanya dengan memasukkan konten palsu ke dalam pemilu tetapi juga dengan mengikis kepercayaan publik.

Gingrich mengatakan dia tidak terpengaruh dengan kebohongan Biden, tapi dia khawatir hal itu mungkin akan menekan jumlah pemilih. Pesan tersebut menjangkau hampir 5.000 pemilih di New Hampshire hanya beberapa hari sebelum pemilihan pendahuluan di negara bagian tersebut.

“Ini bisa berdampak buruk bagi orang-orang yang tidak mendapat informasi tentang apa yang terjadi dengan Partai Demokrat,” kata Gingrich, yang merupakan ketua Komite Demokratik Barrington di Burlington, New Hampshire.

“Jika mereka benar-benar berpikir mereka tidak boleh memilih sesuatu dan Joe Biden mengatakan kepada mereka untuk tidak melakukannya, mungkin mereka tidak akan menghadiri pemungutan suara tersebut.”

5 Dampak Negatif Deepfake dan AI dalam Pemilu AS

1. Kelompok Online Paling Rentan

Foto/AP

Seruan Biden bukanlah satu-satunya kesalahan dalam siklus pemilu ini. Sebelum membatalkan pencalonannya sebagai presiden, tim kampanye Gubernur Florida Ron DeSantis membagikan video yang berisi gambar Donald Trump yang dibuat oleh AI yang sedang memeluk ahli imunologi Anthony Fauci – dua tokoh yang bentrok di depan umum selama pandemi COVID-19.

Dan pada bulan September, panggilan robot yang berbeda dilakukan kepada 300 pemilih yang diperkirakan akan berpartisipasi dalam pemilihan pendahuluan Partai Republik di Carolina Selatan. Kali ini, penerima mendengar suara yang dihasilkan AI yang meniru Senator Lindsey Graham, menanyakan siapa yang mereka pilih.

Praktik mengubah atau memalsukan konten – terutama untuk kepentingan politik – telah ada sejak awal mula politik Amerika. Bahkan presiden pertama negara itu, George Washington, harus menghadapi serangkaian “surat palsu” yang tampaknya menunjukkan dia mempertanyakan alasan kemerdekaan AS.