7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu

Ada sedikit penipuan yang terjadi di sana, namun pada bulan Februari 2020, Manoj Tiwari, seorang anggota parlemen BJP, menjadi orang pertama di dunia yang menggunakan deepfake untuk berkampanye. Dalam tiga video, Tiwari berbicara kepada para pemilih di Delhi menjelang pemilihan dewan legislatif di ibu kota dalam bahasa Hindi, Haryanvi, dan Inggris – menjangkau tiga audiens berbeda di kota multikultural tersebut. Hanya video berbahasa Hindi yang asli: Dua lainnya adalah video deepfake, di mana AI digunakan untuk menghasilkan suara dan kata-katanya serta mengubah ekspresi dan gerakan bibirnya sehingga hampir mustahil untuk mendeteksi, hanya dengan menonton, bahwa video tersebut tidak asli.

Dalam beberapa bulan terakhir, Dravida Munnetra Kazhagam (DMK), yang memerintah negara bagian selatan Tamil Nadu, telah menggunakan AI untuk membangkitkan kembali pemimpin ikoniknya M Karunanidhi dari kematian, menggunakan video yang terlihat nyata dari mantan penulis film dan politisi veteran di acara kampanye.

Kini, para konsultan dan manajer kampanye mengatakan pemilu tahun 2024 dapat meningkatkan penggunaan deepfake lebih jauh lagi.

3. Perang Persepsi dengan Modulasi Suara dan Video Berbasis Narasi

Foto/Reuters

“Politik adalah tentang menciptakan persepsi; dengan alat AI [modulasi suara dan video] dan satu klik, Anda dapat mengubah persepsi tersebut dalam sekejap,” kata Arun Reddy, koordinator nasional media sosial di Kongres, yang mengawasi pemilu Telangana yang merupakan partai yang paham teknologi. Dia menambahkan bahwa tim tersebut penuh dengan ide untuk menggabungkan AI dalam kampanye, namun mereka tidak memiliki cukup “orang terlatih” untuk melaksanakan semuanya.

Reddy memperkuat timnya – begitu pula pihak lainnya.

“AI akan memberikan efek besar dalam menciptakan narasi,” kata Reddy kepada Al Jazeera. “Konten politik yang dimanipulasi oleh AI akan meningkat berkali-kali lipat, jauh lebih besar dari sebelumnya.”

Dari kota gurun Pushkar di India barat, Divyendra Singh Jadoun, 30 tahun, menjalankan startup AI, The Indian Deepfaker. Diluncurkan pada bulan Oktober 2020, perusahaannya mengkloning suara calon ketua menteri Kongres negara bagian Rajasthan Ashok Gehlot agar timnya dapat mengirim pesan yang dipersonalisasi di WhatsApp, menyapa setiap pemilih dengan nama mereka, selama pemilihan majelis bulan November.

Deepfaker India saat ini bekerja dengan tim Ketua Menteri Sikkim Prem Singh Tamang untuk membuat hologram selama kampanye mendatang. Sikkim adalah salah satu negara bagian terkecil di India di timur laut, terletak di pegunungan Himalaya antara India, Bhutan, dan Tiongkok.

Itu pekerjaan yang bersih dan resmi, katanya. Namun dalam beberapa bulan terakhir, ia dibanjiri oleh apa yang ia gambarkan sebagai “permintaan tidak etis” dari kampanye politik. “Partai-partai politik berkomunikasi secara tidak langsung melalui nomor internasional di WhatsApp, nomor telepon di Instagram, atau terhubung di Telegram,” kata Jadoun kepada Al Jazeera dalam wawancara telepon.

4. Menjatuhkan Lawan dengan Manipulasi, termasuk Pornografi

Foto/Reuters

Pada pemilu bulan November, perusahaannya menolak lebih dari 50 permintaan seperti itu, katanya, dimana calon klien menginginkan video dan audio diubah untuk menargetkan lawan politik, termasuk yang berhubungan dengan pornografi. Sebagai sebuah startup, Jadoun mengatakan perusahaannya sangat berhati-hati untuk menghindari masalah hukum. “Dan ini adalah penggunaan AI yang sangat tidak etis,” tambahnya. “Tetapi saya tahu banyak orang yang melakukannya dengan harga yang sangat rendah dan sekarang sudah tersedia.”