7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu

Al Jazeera telah meminta komentar dari ECI tetapi belum menerima tanggapan.

“Bahkan jika seseorang disesatkan sehingga memercayai sesuatu dan hal itu mengubah pikirannya, hal itu akan merusak kemurnian proses pemilu,” kata SY Quraishi, mantan ketua komisioner pemilu India. “Deepfake telah membuat masalah penyebaran rumor selama pemilu menjadi ribuan kali lipat.”

Quraishi mengatakan bahwa deepfake perlu dimoderasi secara real-time untuk meminimalkan dampak buruk terhadap demokrasi India.

“ECI perlu mengambil tindakan sebelum kerusakan terjadi,” katanya. “Mereka harus lebih cepat.”

6. Kebenaran Makin Sulit Dijangkau karena Demokrasi Palsu

Foto/Reuters

Pemerintah India telah menekan perusahaan teknologi besar, termasuk Google dan Meta, untuk secara aktif melakukan upaya untuk memoderasi deepfake di platform mereka. Menteri TI Rajeev Chandrasekhar telah bertemu dengan pejabat dari perusahaan-perusahaan ini sebagai bagian dari pertimbangan mengenai ancaman yang ditimbulkan oleh deepfake.

Dengan meminta sektor teknologi untuk memimpin, pemerintah lolos dari kritik apa pun yang menyatakan bahwa pemerintah sedang mencoba menyensor deepfake yang selektif, atau bahwa pemerintah sedang mencoba untuk menindak teknologi AI yang sedang berkembang secara lebih luas.

Namun dengan memberikan tanggung jawab kepada perusahaan swasta, pemerintah menimbulkan pertanyaan tentang ketulusan niatnya untuk mengatur konten manipulatif, kata Prateek Waghre, direktur eksekutif Internet Freedom Foundation India, sebuah wadah pemikir kebijakan teknologi terkemuka yang berbasis di New Delhi. “Ini hampir hanya angan-angan,” katanya.

Dengan argumen bahwa perusahaan teknologi belum mampu mengatasi permasalahan yang ada melalui moderasi konten, Waghre mengatakan bahwa “kebangkitan AI saat ini” telah menambah tantangan. Dan pendekatan moderasi konten saat ini mengabaikan apa yang sebenarnya menjadi inti permasalahan, katanya.

“Anda tidak menyelesaikan masalah,” katanya. “Desain [algoritme] memiliki kelemahan.”

7. Privasi yang Makin Tak Terjaga

Foto/Reuters

Pada tanggal 16 Februari, perusahaan teknologi besar menandatangani perjanjian di Konferensi Keamanan Munich untuk secara sukarela menerapkan “tindakan pencegahan yang wajar” guna mencegah penggunaan alat kecerdasan buatan untuk mengganggu pemilu demokratis di seluruh dunia. Namun perjanjian yang dibuat secara samar-samar ini membuat banyak pendukung dan kritikus kecewa.