7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu

YouTube telah mengumumkan bahwa mereka akan memungkinkan orang untuk meminta penghapusan konten yang dibuat atau diubah oleh AI yang mensimulasikan orang yang dapat diidentifikasi, termasuk wajah atau suaranya, menggunakan proses permintaan privasinya.

“Saya tidak terlalu optimis dengan kemampuan platform ini dalam mendeteksi deepfake,” kata Ravi Iyer, direktur pelaksana Neely Center for Ethical Leadership and Decision Making di Marshall School of Business, Universitas Southern California. “Dengan rendahnya literasi digital dan meningkatnya konsumsi video, hal ini menimbulkan risiko besar bagi integritas pemilu di India.”

Mengidentifikasi setiap media yang dimanipulasi oleh AI bukanlah tugas yang masuk akal, kata Iyer, sehingga perusahaan perlu mendesain ulang algoritma yang tidak mendorong polarisasi konten. “Perusahaan adalah pihak yang memiliki uang dan sumber daya, mereka perlu mengambil langkah-langkah yang wajar untuk mengatasi maraknya deepfake,” katanya.

Internet Freedom Foundation telah menerbitkan surat terbuka yang mendesak kandidat dan partai pemilu untuk secara sukarela menahan diri dari penggunaan teknologi deepfake menjelang pemilu nasional. Waghre tidak yakin banyak yang akan menggigit, tapi menurutnya ini patut dicoba.

Sementara itu, kampanye politik sedang memperkuat persenjataan AI mereka – dan beberapa pihak, seperti Reddy, koordinator nasional media sosial di Kongres, mengakui bahwa masa depan terlihat suram.

“Kebanyakan orang yang menggunakan AI bertujuan untuk memutarbalikkan fakta. Mereka ingin menciptakan persepsi yang tidak berdasarkan kebenaran,” kata Reddy. “Gabungkan penetrasi media sosial di India dengan kebangkitan AI, kebenarannya akan berada di luar jangkauan masyarakat dalam pemilu saat ini.”