7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu
Rabu, 21 Februari 2024 - 21:50 WIB
loading...
A
A
A
Dari kota gurun Pushkar di India barat, Divyendra Singh Jadoun, 30 tahun, menjalankan startup AI, The Indian Deepfaker. Diluncurkan pada bulan Oktober 2020, perusahaannya mengkloning suara calon ketua menteri Kongres negara bagian Rajasthan Ashok Gehlot agar timnya dapat mengirim pesan yang dipersonalisasi di WhatsApp, menyapa setiap pemilih dengan nama mereka, selama pemilihan majelis bulan November.
Deepfaker India saat ini bekerja dengan tim Ketua Menteri Sikkim Prem Singh Tamang untuk membuat hologram selama kampanye mendatang. Sikkim adalah salah satu negara bagian terkecil di India di timur laut, terletak di pegunungan Himalaya antara India, Bhutan, dan Tiongkok.
Itu pekerjaan yang bersih dan resmi, katanya. Namun dalam beberapa bulan terakhir, ia dibanjiri oleh apa yang ia gambarkan sebagai “permintaan tidak etis” dari kampanye politik. “Partai-partai politik berkomunikasi secara tidak langsung melalui nomor internasional di WhatsApp, nomor telepon di Instagram, atau terhubung di Telegram,” kata Jadoun kepada Al Jazeera dalam wawancara telepon.
![7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu]()
Foto/Reuters
Pada pemilu bulan November, perusahaannya menolak lebih dari 50 permintaan seperti itu, katanya, dimana calon klien menginginkan video dan audio diubah untuk menargetkan lawan politik, termasuk yang berhubungan dengan pornografi. Sebagai sebuah startup, Jadoun mengatakan perusahaannya sangat berhati-hati untuk menghindari masalah hukum. “Dan ini adalah penggunaan AI yang sangat tidak etis,” tambahnya. “Tetapi saya tahu banyak orang yang melakukannya dengan harga yang sangat rendah dan sekarang sudah tersedia.”
Selama kampanye pemilu untuk badan legislatif negara bagian Madhya Pradesh di India tengah dan Rajasthan di barat pada bulan November lalu, polisi mendaftarkan beberapa kasus video deepfake yang menargetkan politisi senior termasuk Modi, Shivraj Singh Chauhan, Kailash Vijayvargia (semuanya BJP) dan Kamal Nath (Kongres ). Produksi konten deepfake sering kali dialihdayakan ke perusahaan konsultan swasta, yang mengandalkan jaringan media sosial untuk distribusi, yang dipelopori oleh WhatsApp.
Seorang konsultan politik yang meminta tidak disebutkan namanya mengatakan kepada Al Jazeera bahwa sejumlah warga biasa yang tidak memiliki profil publik terdaftar di WhatsApp dan digunakan untuk kampanye guna mempersulit siapa pun untuk melacak langsung mereka ke partai, kandidat, konsultan, dan perusahaan AI.
Konsultan ini menjalankan enam kampanye dalam pemilihan majelis tahun lalu untuk BJP dan Kongres. “Di Rajasthan, kami menggunakan nomor telepon pekerja konstruksi untuk menjalankan jaringan kami di WhatsApp,” kata mereka, “tempat penyebaran deepfake.”
Sementara itu, audio yang dimanipulasi oleh AI merupakan alat yang sangat berharga di daerah pemilihan yang lebih kecil, “menargetkan kandidat dengan rekaman panggilan palsu tentang mengatur 'uang gelap' untuk pemilu atau mengancam seseorang untuk membeli suara,” kata konsultan tersebut, yang kandidatnya sendiri menjadi sasaran rekaman tersebut. . Rekaman tersebut umumnya disamarkan dengan suara para kandidat untuk menjadikannya sebagai bukti korupsi.
“Memanipulasi pemilih dengan AI tidak dianggap sebagai dosa oleh pihak mana pun,” tambah mereka. “Itu hanyalah bagian dari strategi kampanye.”
![7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu]()
Foto/Reuters
Undang-undang India saat ini tidak mendefinisikan “deepfakes” dengan jelas, kata Anushka Jain, peneliti kebijakan di Digital Futures Lab yang berbasis di Goa. Polisi telah menggunakan undang-undang yang melarang pencemaran nama baik, berita palsu, atau pelanggaran kesopanan seseorang, dikombinasikan dengan Undang-Undang Teknologi Informasi, untuk mencoba menangani kasus-kasus tertentu. Namun seringkali, mereka bermain-main.
“Polisi melakukan penuntutan atas dampak deepfake tersebut dan bukan karena deepfake itu sendiri,” katanya.
Para analis mengatakan bahwa Komisi Pemilihan Umum India (ECI), sebuah badan otonom yang menyelenggarakan pemungutan suara, perlu mengejar perubahan sifat politik.
Pada hari-hari menjelang pemungutan suara di pemilu negara bagian Telangana tahun lalu, para pemimpin partai berkuasa Bharat Rashtra Samithi berulang kali memperingatkan pengikut mereka di media sosial untuk tetap waspada terhadap deepfake yang disebarkan oleh partai Kongres. Mereka juga mengajukan banding kepada ECI terhadap klip deepfake yang dibagikan Kongres pada pagi hari pemungutan suara.
Namun video tersebut tetap online dan partai tersebut tidak pernah menerima pemberitahuan dari ECI, dua pemimpin Kongres yang mengetahui masalah tersebut mengatakan kepada Al Jazeera.
Al Jazeera telah meminta komentar dari ECI tetapi belum menerima tanggapan.
“Bahkan jika seseorang disesatkan sehingga memercayai sesuatu dan hal itu mengubah pikirannya, hal itu akan merusak kemurnian proses pemilu,” kata SY Quraishi, mantan ketua komisioner pemilu India. “Deepfake telah membuat masalah penyebaran rumor selama pemilu menjadi ribuan kali lipat.”
Deepfaker India saat ini bekerja dengan tim Ketua Menteri Sikkim Prem Singh Tamang untuk membuat hologram selama kampanye mendatang. Sikkim adalah salah satu negara bagian terkecil di India di timur laut, terletak di pegunungan Himalaya antara India, Bhutan, dan Tiongkok.
Itu pekerjaan yang bersih dan resmi, katanya. Namun dalam beberapa bulan terakhir, ia dibanjiri oleh apa yang ia gambarkan sebagai “permintaan tidak etis” dari kampanye politik. “Partai-partai politik berkomunikasi secara tidak langsung melalui nomor internasional di WhatsApp, nomor telepon di Instagram, atau terhubung di Telegram,” kata Jadoun kepada Al Jazeera dalam wawancara telepon.
4. Menjatuhkan Lawan dengan Manipulasi, termasuk Pornografi
Foto/Reuters
Pada pemilu bulan November, perusahaannya menolak lebih dari 50 permintaan seperti itu, katanya, dimana calon klien menginginkan video dan audio diubah untuk menargetkan lawan politik, termasuk yang berhubungan dengan pornografi. Sebagai sebuah startup, Jadoun mengatakan perusahaannya sangat berhati-hati untuk menghindari masalah hukum. “Dan ini adalah penggunaan AI yang sangat tidak etis,” tambahnya. “Tetapi saya tahu banyak orang yang melakukannya dengan harga yang sangat rendah dan sekarang sudah tersedia.”
Selama kampanye pemilu untuk badan legislatif negara bagian Madhya Pradesh di India tengah dan Rajasthan di barat pada bulan November lalu, polisi mendaftarkan beberapa kasus video deepfake yang menargetkan politisi senior termasuk Modi, Shivraj Singh Chauhan, Kailash Vijayvargia (semuanya BJP) dan Kamal Nath (Kongres ). Produksi konten deepfake sering kali dialihdayakan ke perusahaan konsultan swasta, yang mengandalkan jaringan media sosial untuk distribusi, yang dipelopori oleh WhatsApp.
Seorang konsultan politik yang meminta tidak disebutkan namanya mengatakan kepada Al Jazeera bahwa sejumlah warga biasa yang tidak memiliki profil publik terdaftar di WhatsApp dan digunakan untuk kampanye guna mempersulit siapa pun untuk melacak langsung mereka ke partai, kandidat, konsultan, dan perusahaan AI.
Konsultan ini menjalankan enam kampanye dalam pemilihan majelis tahun lalu untuk BJP dan Kongres. “Di Rajasthan, kami menggunakan nomor telepon pekerja konstruksi untuk menjalankan jaringan kami di WhatsApp,” kata mereka, “tempat penyebaran deepfake.”
Sementara itu, audio yang dimanipulasi oleh AI merupakan alat yang sangat berharga di daerah pemilihan yang lebih kecil, “menargetkan kandidat dengan rekaman panggilan palsu tentang mengatur 'uang gelap' untuk pemilu atau mengancam seseorang untuk membeli suara,” kata konsultan tersebut, yang kandidatnya sendiri menjadi sasaran rekaman tersebut. . Rekaman tersebut umumnya disamarkan dengan suara para kandidat untuk menjadikannya sebagai bukti korupsi.
“Memanipulasi pemilih dengan AI tidak dianggap sebagai dosa oleh pihak mana pun,” tambah mereka. “Itu hanyalah bagian dari strategi kampanye.”
5. Pemilu Tidak Lagi Memiliki Integritas
Foto/Reuters
Undang-undang India saat ini tidak mendefinisikan “deepfakes” dengan jelas, kata Anushka Jain, peneliti kebijakan di Digital Futures Lab yang berbasis di Goa. Polisi telah menggunakan undang-undang yang melarang pencemaran nama baik, berita palsu, atau pelanggaran kesopanan seseorang, dikombinasikan dengan Undang-Undang Teknologi Informasi, untuk mencoba menangani kasus-kasus tertentu. Namun seringkali, mereka bermain-main.
“Polisi melakukan penuntutan atas dampak deepfake tersebut dan bukan karena deepfake itu sendiri,” katanya.
Para analis mengatakan bahwa Komisi Pemilihan Umum India (ECI), sebuah badan otonom yang menyelenggarakan pemungutan suara, perlu mengejar perubahan sifat politik.
Pada hari-hari menjelang pemungutan suara di pemilu negara bagian Telangana tahun lalu, para pemimpin partai berkuasa Bharat Rashtra Samithi berulang kali memperingatkan pengikut mereka di media sosial untuk tetap waspada terhadap deepfake yang disebarkan oleh partai Kongres. Mereka juga mengajukan banding kepada ECI terhadap klip deepfake yang dibagikan Kongres pada pagi hari pemungutan suara.
Namun video tersebut tetap online dan partai tersebut tidak pernah menerima pemberitahuan dari ECI, dua pemimpin Kongres yang mengetahui masalah tersebut mengatakan kepada Al Jazeera.
Al Jazeera telah meminta komentar dari ECI tetapi belum menerima tanggapan.
“Bahkan jika seseorang disesatkan sehingga memercayai sesuatu dan hal itu mengubah pikirannya, hal itu akan merusak kemurnian proses pemilu,” kata SY Quraishi, mantan ketua komisioner pemilu India. “Deepfake telah membuat masalah penyebaran rumor selama pemilu menjadi ribuan kali lipat.”
Lihat Juga :
