7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu
Rabu, 21 Februari 2024 - 21:50 WIB
“Politik adalah tentang menciptakan persepsi; dengan alat AI [modulasi suara dan video] dan satu klik, Anda dapat mengubah persepsi tersebut dalam sekejap,” kata Arun Reddy, koordinator nasional media sosial di Kongres, yang mengawasi pemilu Telangana yang merupakan partai yang paham teknologi. Dia menambahkan bahwa tim tersebut penuh dengan ide untuk menggabungkan AI dalam kampanye, namun mereka tidak memiliki cukup “orang terlatih” untuk melaksanakan semuanya.
Reddy memperkuat timnya – begitu pula pihak lainnya.
“AI akan memberikan efek besar dalam menciptakan narasi,” kata Reddy kepada Al Jazeera. “Konten politik yang dimanipulasi oleh AI akan meningkat berkali-kali lipat, jauh lebih besar dari sebelumnya.”
Dari kota gurun Pushkar di India barat, Divyendra Singh Jadoun, 30 tahun, menjalankan startup AI, The Indian Deepfaker. Diluncurkan pada bulan Oktober 2020, perusahaannya mengkloning suara calon ketua menteri Kongres negara bagian Rajasthan Ashok Gehlot agar timnya dapat mengirim pesan yang dipersonalisasi di WhatsApp, menyapa setiap pemilih dengan nama mereka, selama pemilihan majelis bulan November.
Deepfaker India saat ini bekerja dengan tim Ketua Menteri Sikkim Prem Singh Tamang untuk membuat hologram selama kampanye mendatang. Sikkim adalah salah satu negara bagian terkecil di India di timur laut, terletak di pegunungan Himalaya antara India, Bhutan, dan Tiongkok.
Itu pekerjaan yang bersih dan resmi, katanya. Namun dalam beberapa bulan terakhir, ia dibanjiri oleh apa yang ia gambarkan sebagai “permintaan tidak etis” dari kampanye politik. “Partai-partai politik berkomunikasi secara tidak langsung melalui nomor internasional di WhatsApp, nomor telepon di Instagram, atau terhubung di Telegram,” kata Jadoun kepada Al Jazeera dalam wawancara telepon.
Foto/Reuters
Pada pemilu bulan November, perusahaannya menolak lebih dari 50 permintaan seperti itu, katanya, dimana calon klien menginginkan video dan audio diubah untuk menargetkan lawan politik, termasuk yang berhubungan dengan pornografi. Sebagai sebuah startup, Jadoun mengatakan perusahaannya sangat berhati-hati untuk menghindari masalah hukum. “Dan ini adalah penggunaan AI yang sangat tidak etis,” tambahnya. “Tetapi saya tahu banyak orang yang melakukannya dengan harga yang sangat rendah dan sekarang sudah tersedia.”
Selama kampanye pemilu untuk badan legislatif negara bagian Madhya Pradesh di India tengah dan Rajasthan di barat pada bulan November lalu, polisi mendaftarkan beberapa kasus video deepfake yang menargetkan politisi senior termasuk Modi, Shivraj Singh Chauhan, Kailash Vijayvargia (semuanya BJP) dan Kamal Nath (Kongres ). Produksi konten deepfake sering kali dialihdayakan ke perusahaan konsultan swasta, yang mengandalkan jaringan media sosial untuk distribusi, yang dipelopori oleh WhatsApp.
Reddy memperkuat timnya – begitu pula pihak lainnya.
“AI akan memberikan efek besar dalam menciptakan narasi,” kata Reddy kepada Al Jazeera. “Konten politik yang dimanipulasi oleh AI akan meningkat berkali-kali lipat, jauh lebih besar dari sebelumnya.”
Dari kota gurun Pushkar di India barat, Divyendra Singh Jadoun, 30 tahun, menjalankan startup AI, The Indian Deepfaker. Diluncurkan pada bulan Oktober 2020, perusahaannya mengkloning suara calon ketua menteri Kongres negara bagian Rajasthan Ashok Gehlot agar timnya dapat mengirim pesan yang dipersonalisasi di WhatsApp, menyapa setiap pemilih dengan nama mereka, selama pemilihan majelis bulan November.
Deepfaker India saat ini bekerja dengan tim Ketua Menteri Sikkim Prem Singh Tamang untuk membuat hologram selama kampanye mendatang. Sikkim adalah salah satu negara bagian terkecil di India di timur laut, terletak di pegunungan Himalaya antara India, Bhutan, dan Tiongkok.
Itu pekerjaan yang bersih dan resmi, katanya. Namun dalam beberapa bulan terakhir, ia dibanjiri oleh apa yang ia gambarkan sebagai “permintaan tidak etis” dari kampanye politik. “Partai-partai politik berkomunikasi secara tidak langsung melalui nomor internasional di WhatsApp, nomor telepon di Instagram, atau terhubung di Telegram,” kata Jadoun kepada Al Jazeera dalam wawancara telepon.
4. Menjatuhkan Lawan dengan Manipulasi, termasuk Pornografi
Foto/Reuters
Pada pemilu bulan November, perusahaannya menolak lebih dari 50 permintaan seperti itu, katanya, dimana calon klien menginginkan video dan audio diubah untuk menargetkan lawan politik, termasuk yang berhubungan dengan pornografi. Sebagai sebuah startup, Jadoun mengatakan perusahaannya sangat berhati-hati untuk menghindari masalah hukum. “Dan ini adalah penggunaan AI yang sangat tidak etis,” tambahnya. “Tetapi saya tahu banyak orang yang melakukannya dengan harga yang sangat rendah dan sekarang sudah tersedia.”
Selama kampanye pemilu untuk badan legislatif negara bagian Madhya Pradesh di India tengah dan Rajasthan di barat pada bulan November lalu, polisi mendaftarkan beberapa kasus video deepfake yang menargetkan politisi senior termasuk Modi, Shivraj Singh Chauhan, Kailash Vijayvargia (semuanya BJP) dan Kamal Nath (Kongres ). Produksi konten deepfake sering kali dialihdayakan ke perusahaan konsultan swasta, yang mengandalkan jaringan media sosial untuk distribusi, yang dipelopori oleh WhatsApp.
Lihat Juga :
tulis komentar anda