7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu
loading...
A
A
A
Selama kampanye pemilu untuk badan legislatif negara bagian Madhya Pradesh di India tengah dan Rajasthan di barat pada bulan November lalu, polisi mendaftarkan beberapa kasus video deepfake yang menargetkan politisi senior termasuk Modi, Shivraj Singh Chauhan, Kailash Vijayvargia (semuanya BJP) dan Kamal Nath (Kongres ). Produksi konten deepfake sering kali dialihdayakan ke perusahaan konsultan swasta, yang mengandalkan jaringan media sosial untuk distribusi, yang dipelopori oleh WhatsApp.
Seorang konsultan politik yang meminta tidak disebutkan namanya mengatakan kepada Al Jazeera bahwa sejumlah warga biasa yang tidak memiliki profil publik terdaftar di WhatsApp dan digunakan untuk kampanye guna mempersulit siapa pun untuk melacak langsung mereka ke partai, kandidat, konsultan, dan perusahaan AI.
Konsultan ini menjalankan enam kampanye dalam pemilihan majelis tahun lalu untuk BJP dan Kongres. “Di Rajasthan, kami menggunakan nomor telepon pekerja konstruksi untuk menjalankan jaringan kami di WhatsApp,” kata mereka, “tempat penyebaran deepfake.”
Sementara itu, audio yang dimanipulasi oleh AI merupakan alat yang sangat berharga di daerah pemilihan yang lebih kecil, “menargetkan kandidat dengan rekaman panggilan palsu tentang mengatur 'uang gelap' untuk pemilu atau mengancam seseorang untuk membeli suara,” kata konsultan tersebut, yang kandidatnya sendiri menjadi sasaran rekaman tersebut. . Rekaman tersebut umumnya disamarkan dengan suara para kandidat untuk menjadikannya sebagai bukti korupsi.
“Memanipulasi pemilih dengan AI tidak dianggap sebagai dosa oleh pihak mana pun,” tambah mereka. “Itu hanyalah bagian dari strategi kampanye.”
![7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu]()
Foto/Reuters
Undang-undang India saat ini tidak mendefinisikan “deepfakes” dengan jelas, kata Anushka Jain, peneliti kebijakan di Digital Futures Lab yang berbasis di Goa. Polisi telah menggunakan undang-undang yang melarang pencemaran nama baik, berita palsu, atau pelanggaran kesopanan seseorang, dikombinasikan dengan Undang-Undang Teknologi Informasi, untuk mencoba menangani kasus-kasus tertentu. Namun seringkali, mereka bermain-main.
“Polisi melakukan penuntutan atas dampak deepfake tersebut dan bukan karena deepfake itu sendiri,” katanya.
Para analis mengatakan bahwa Komisi Pemilihan Umum India (ECI), sebuah badan otonom yang menyelenggarakan pemungutan suara, perlu mengejar perubahan sifat politik.
Pada hari-hari menjelang pemungutan suara di pemilu negara bagian Telangana tahun lalu, para pemimpin partai berkuasa Bharat Rashtra Samithi berulang kali memperingatkan pengikut mereka di media sosial untuk tetap waspada terhadap deepfake yang disebarkan oleh partai Kongres. Mereka juga mengajukan banding kepada ECI terhadap klip deepfake yang dibagikan Kongres pada pagi hari pemungutan suara.
Namun video tersebut tetap online dan partai tersebut tidak pernah menerima pemberitahuan dari ECI, dua pemimpin Kongres yang mengetahui masalah tersebut mengatakan kepada Al Jazeera.
Seorang konsultan politik yang meminta tidak disebutkan namanya mengatakan kepada Al Jazeera bahwa sejumlah warga biasa yang tidak memiliki profil publik terdaftar di WhatsApp dan digunakan untuk kampanye guna mempersulit siapa pun untuk melacak langsung mereka ke partai, kandidat, konsultan, dan perusahaan AI.
Konsultan ini menjalankan enam kampanye dalam pemilihan majelis tahun lalu untuk BJP dan Kongres. “Di Rajasthan, kami menggunakan nomor telepon pekerja konstruksi untuk menjalankan jaringan kami di WhatsApp,” kata mereka, “tempat penyebaran deepfake.”
Sementara itu, audio yang dimanipulasi oleh AI merupakan alat yang sangat berharga di daerah pemilihan yang lebih kecil, “menargetkan kandidat dengan rekaman panggilan palsu tentang mengatur 'uang gelap' untuk pemilu atau mengancam seseorang untuk membeli suara,” kata konsultan tersebut, yang kandidatnya sendiri menjadi sasaran rekaman tersebut. . Rekaman tersebut umumnya disamarkan dengan suara para kandidat untuk menjadikannya sebagai bukti korupsi.
“Memanipulasi pemilih dengan AI tidak dianggap sebagai dosa oleh pihak mana pun,” tambah mereka. “Itu hanyalah bagian dari strategi kampanye.”
5. Pemilu Tidak Lagi Memiliki Integritas
Foto/Reuters
Undang-undang India saat ini tidak mendefinisikan “deepfakes” dengan jelas, kata Anushka Jain, peneliti kebijakan di Digital Futures Lab yang berbasis di Goa. Polisi telah menggunakan undang-undang yang melarang pencemaran nama baik, berita palsu, atau pelanggaran kesopanan seseorang, dikombinasikan dengan Undang-Undang Teknologi Informasi, untuk mencoba menangani kasus-kasus tertentu. Namun seringkali, mereka bermain-main.
“Polisi melakukan penuntutan atas dampak deepfake tersebut dan bukan karena deepfake itu sendiri,” katanya.
Para analis mengatakan bahwa Komisi Pemilihan Umum India (ECI), sebuah badan otonom yang menyelenggarakan pemungutan suara, perlu mengejar perubahan sifat politik.
Pada hari-hari menjelang pemungutan suara di pemilu negara bagian Telangana tahun lalu, para pemimpin partai berkuasa Bharat Rashtra Samithi berulang kali memperingatkan pengikut mereka di media sosial untuk tetap waspada terhadap deepfake yang disebarkan oleh partai Kongres. Mereka juga mengajukan banding kepada ECI terhadap klip deepfake yang dibagikan Kongres pada pagi hari pemungutan suara.
Namun video tersebut tetap online dan partai tersebut tidak pernah menerima pemberitahuan dari ECI, dua pemimpin Kongres yang mengetahui masalah tersebut mengatakan kepada Al Jazeera.
Explore More