7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu

NEW DELHI - Ingin lawan berkampanye untuk Anda? Membingungkan pemilih antara video asli dan palsu? Saat India bersiap menghadapi pemilu terbesar di dunia, banyak partai yang beralih ke artificial intelligence (AI) untuk menerapkan strategi baru.

Salah satu kasusnya adalah saat para pemilih mengantri pada pagi hari tanggal 30 November tahun lalu untuk memberikan suara dalam pemilihan legislatif guna memilih pemerintahan berikutnya di negara bagian Telangana di India selatan, sebuah klip berdurasi tujuh detik mulai menjadi viral di media sosial.

Diposting di X oleh Partai Kongres, yang merupakan oposisi secara nasional, dan saat itu masih berada di negara bagian tersebut, video tersebut menunjukkan KT Rama Rao, pemimpin Bharat Rashtra Samiti yang memerintah negara bagian tersebut, menyerukan kepada masyarakat untuk memilih mendukung Partai Kongres.

Partai Kongres menyebarkannya secara luas di sejumlah grup WhatsApp yang “dioperasikan secara tidak resmi” oleh partai tersebut. Akhirnya berakhir di akun resmi X partai tersebut, dilihat lebih dari 500.000 kali.

“Tentu saja, itu dihasilkan oleh AI meskipun terlihat benar-benar nyata,” kata pemimpin Partai Kongres tersebut kepada Al Jazeera. “Tetapi pemilih pada umumnya tidak akan bisa membedakan; pemungutan suara telah dimulai [ketika video tersebut diunggah] dan tidak ada waktu bagi [kampanye oposisi] untuk mengendalikan dampak buruknya.”

7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu

1. Manipulasi AI Mempengaruhi Pemilu

Foto/Reuters

Melansir Al Jazeera, deepfake yang dilakukan dengan waktu yang sangat tepat ini merupakan penanda membanjirnya media yang dihasilkan atau dimanipulasi oleh AI yang merusak serangkaian pemilu di beberapa negara bagian India dalam beberapa bulan terakhir, dan hal ini kini mengancam secara fundamental mempengaruhi pemilu mendatang di negara tersebut.

Antara bulan Maret dan Mei, hampir satu miliar pemilih di India akan memilih pemerintahan nasional berikutnya dalam pemilu terbesar di dunia dan dalam sejarah. Ancaman yang ditimbulkan oleh media tipuan yang dihasilkan oleh AI menarik perhatian dunia ketika gambar palsu artis Taylor Swift yang eksplisit secara seksual muncul di platform media sosial pada bulan Januari. Pada bulan November, Ashwini Vaishnaw, menteri teknologi informasi India, menyebut deepfake sebagai “ancaman terhadap demokrasi” dan Perdana Menteri Narendra Modi juga menyuarakan keprihatinannya.

"Namun dengan meningkatnya ketersediaan alat kecerdasan buatan yang berguna, tim-tim di seluruh partai politik India, termasuk Partai Bharatiya Janata dan Kongres, menerapkan deepfake untuk mempengaruhi pemilih," kata para manajer dari hampir 40 kampanye baru-baru ini kepada Al Jazeera. Meskipun beberapa alat AI yang digunakan untuk menghasilkan deepfake gratis, alat lain tersedia dengan berlangganan hanya dengan 10 sen per video.

2. Menciptakan Ilusi dengan Hologram

Foto/Reuters

BJP, yang bisa dibilang sebagai partai paling canggih di India, berada di garis depan dalam menggunakan ilusi untuk berkampanye. Sejak tahun 2012, partai tersebut menggunakan proyeksi hologram 3D Modi sehingga ia dapat melakukan “kampanye” secara bersamaan di banyak tempat pada waktu yang bersamaan. Strategi ini diterapkan secara luas pada pemilihan umum tahun 2014 yang membawa Modi berkuasa.

Ada sedikit penipuan yang terjadi di sana, namun pada bulan Februari 2020, Manoj Tiwari, seorang anggota parlemen BJP, menjadi orang pertama di dunia yang menggunakan deepfake untuk berkampanye. Dalam tiga video, Tiwari berbicara kepada para pemilih di Delhi menjelang pemilihan dewan legislatif di ibu kota dalam bahasa Hindi, Haryanvi, dan Inggris – menjangkau tiga audiens berbeda di kota multikultural tersebut. Hanya video berbahasa Hindi yang asli: Dua lainnya adalah video deepfake, di mana AI digunakan untuk menghasilkan suara dan kata-katanya serta mengubah ekspresi dan gerakan bibirnya sehingga hampir mustahil untuk mendeteksi, hanya dengan menonton, bahwa video tersebut tidak asli.

Dalam beberapa bulan terakhir, Dravida Munnetra Kazhagam (DMK), yang memerintah negara bagian selatan Tamil Nadu, telah menggunakan AI untuk membangkitkan kembali pemimpin ikoniknya M Karunanidhi dari kematian, menggunakan video yang terlihat nyata dari mantan penulis film dan politisi veteran di acara kampanye.

Kini, para konsultan dan manajer kampanye mengatakan pemilu tahun 2024 dapat meningkatkan penggunaan deepfake lebih jauh lagi.

3. Perang Persepsi dengan Modulasi Suara dan Video Berbasis Narasi

Foto/Reuters

“Politik adalah tentang menciptakan persepsi; dengan alat AI [modulasi suara dan video] dan satu klik, Anda dapat mengubah persepsi tersebut dalam sekejap,” kata Arun Reddy, koordinator nasional media sosial di Kongres, yang mengawasi pemilu Telangana yang merupakan partai yang paham teknologi. Dia menambahkan bahwa tim tersebut penuh dengan ide untuk menggabungkan AI dalam kampanye, namun mereka tidak memiliki cukup “orang terlatih” untuk melaksanakan semuanya.

Reddy memperkuat timnya – begitu pula pihak lainnya.

“AI akan memberikan efek besar dalam menciptakan narasi,” kata Reddy kepada Al Jazeera. “Konten politik yang dimanipulasi oleh AI akan meningkat berkali-kali lipat, jauh lebih besar dari sebelumnya.”

Dari kota gurun Pushkar di India barat, Divyendra Singh Jadoun, 30 tahun, menjalankan startup AI, The Indian Deepfaker. Diluncurkan pada bulan Oktober 2020, perusahaannya mengkloning suara calon ketua menteri Kongres negara bagian Rajasthan Ashok Gehlot agar timnya dapat mengirim pesan yang dipersonalisasi di WhatsApp, menyapa setiap pemilih dengan nama mereka, selama pemilihan majelis bulan November.

Deepfaker India saat ini bekerja dengan tim Ketua Menteri Sikkim Prem Singh Tamang untuk membuat hologram selama kampanye mendatang. Sikkim adalah salah satu negara bagian terkecil di India di timur laut, terletak di pegunungan Himalaya antara India, Bhutan, dan Tiongkok.

Itu pekerjaan yang bersih dan resmi, katanya. Namun dalam beberapa bulan terakhir, ia dibanjiri oleh apa yang ia gambarkan sebagai “permintaan tidak etis” dari kampanye politik. “Partai-partai politik berkomunikasi secara tidak langsung melalui nomor internasional di WhatsApp, nomor telepon di Instagram, atau terhubung di Telegram,” kata Jadoun kepada Al Jazeera dalam wawancara telepon.

4. Menjatuhkan Lawan dengan Manipulasi, termasuk Pornografi

Foto/Reuters

Pada pemilu bulan November, perusahaannya menolak lebih dari 50 permintaan seperti itu, katanya, dimana calon klien menginginkan video dan audio diubah untuk menargetkan lawan politik, termasuk yang berhubungan dengan pornografi. Sebagai sebuah startup, Jadoun mengatakan perusahaannya sangat berhati-hati untuk menghindari masalah hukum. “Dan ini adalah penggunaan AI yang sangat tidak etis,” tambahnya. “Tetapi saya tahu banyak orang yang melakukannya dengan harga yang sangat rendah dan sekarang sudah tersedia.”

Selama kampanye pemilu untuk badan legislatif negara bagian Madhya Pradesh di India tengah dan Rajasthan di barat pada bulan November lalu, polisi mendaftarkan beberapa kasus video deepfake yang menargetkan politisi senior termasuk Modi, Shivraj Singh Chauhan, Kailash Vijayvargia (semuanya BJP) dan Kamal Nath (Kongres ). Produksi konten deepfake sering kali dialihdayakan ke perusahaan konsultan swasta, yang mengandalkan jaringan media sosial untuk distribusi, yang dipelopori oleh WhatsApp.

Seorang konsultan politik yang meminta tidak disebutkan namanya mengatakan kepada Al Jazeera bahwa sejumlah warga biasa yang tidak memiliki profil publik terdaftar di WhatsApp dan digunakan untuk kampanye guna mempersulit siapa pun untuk melacak langsung mereka ke partai, kandidat, konsultan, dan perusahaan AI.

Konsultan ini menjalankan enam kampanye dalam pemilihan majelis tahun lalu untuk BJP dan Kongres. “Di Rajasthan, kami menggunakan nomor telepon pekerja konstruksi untuk menjalankan jaringan kami di WhatsApp,” kata mereka, “tempat penyebaran deepfake.”

Sementara itu, audio yang dimanipulasi oleh AI merupakan alat yang sangat berharga di daerah pemilihan yang lebih kecil, “menargetkan kandidat dengan rekaman panggilan palsu tentang mengatur 'uang gelap' untuk pemilu atau mengancam seseorang untuk membeli suara,” kata konsultan tersebut, yang kandidatnya sendiri menjadi sasaran rekaman tersebut. . Rekaman tersebut umumnya disamarkan dengan suara para kandidat untuk menjadikannya sebagai bukti korupsi.

“Memanipulasi pemilih dengan AI tidak dianggap sebagai dosa oleh pihak mana pun,” tambah mereka. “Itu hanyalah bagian dari strategi kampanye.”

5. Pemilu Tidak Lagi Memiliki Integritas

Foto/Reuters

Undang-undang India saat ini tidak mendefinisikan “deepfakes” dengan jelas, kata Anushka Jain, peneliti kebijakan di Digital Futures Lab yang berbasis di Goa. Polisi telah menggunakan undang-undang yang melarang pencemaran nama baik, berita palsu, atau pelanggaran kesopanan seseorang, dikombinasikan dengan Undang-Undang Teknologi Informasi, untuk mencoba menangani kasus-kasus tertentu. Namun seringkali, mereka bermain-main.

“Polisi melakukan penuntutan atas dampak deepfake tersebut dan bukan karena deepfake itu sendiri,” katanya.

Para analis mengatakan bahwa Komisi Pemilihan Umum India (ECI), sebuah badan otonom yang menyelenggarakan pemungutan suara, perlu mengejar perubahan sifat politik.

Pada hari-hari menjelang pemungutan suara di pemilu negara bagian Telangana tahun lalu, para pemimpin partai berkuasa Bharat Rashtra Samithi berulang kali memperingatkan pengikut mereka di media sosial untuk tetap waspada terhadap deepfake yang disebarkan oleh partai Kongres. Mereka juga mengajukan banding kepada ECI terhadap klip deepfake yang dibagikan Kongres pada pagi hari pemungutan suara.

Namun video tersebut tetap online dan partai tersebut tidak pernah menerima pemberitahuan dari ECI, dua pemimpin Kongres yang mengetahui masalah tersebut mengatakan kepada Al Jazeera.

Al Jazeera telah meminta komentar dari ECI tetapi belum menerima tanggapan.

“Bahkan jika seseorang disesatkan sehingga memercayai sesuatu dan hal itu mengubah pikirannya, hal itu akan merusak kemurnian proses pemilu,” kata SY Quraishi, mantan ketua komisioner pemilu India. “Deepfake telah membuat masalah penyebaran rumor selama pemilu menjadi ribuan kali lipat.”

Quraishi mengatakan bahwa deepfake perlu dimoderasi secara real-time untuk meminimalkan dampak buruk terhadap demokrasi India.

“ECI perlu mengambil tindakan sebelum kerusakan terjadi,” katanya. “Mereka harus lebih cepat.”

6. Kebenaran Makin Sulit Dijangkau karena Demokrasi Palsu

Foto/Reuters

Pemerintah India telah menekan perusahaan teknologi besar, termasuk Google dan Meta, untuk secara aktif melakukan upaya untuk memoderasi deepfake di platform mereka. Menteri TI Rajeev Chandrasekhar telah bertemu dengan pejabat dari perusahaan-perusahaan ini sebagai bagian dari pertimbangan mengenai ancaman yang ditimbulkan oleh deepfake.

Dengan meminta sektor teknologi untuk memimpin, pemerintah lolos dari kritik apa pun yang menyatakan bahwa pemerintah sedang mencoba menyensor deepfake yang selektif, atau bahwa pemerintah sedang mencoba untuk menindak teknologi AI yang sedang berkembang secara lebih luas.

Namun dengan memberikan tanggung jawab kepada perusahaan swasta, pemerintah menimbulkan pertanyaan tentang ketulusan niatnya untuk mengatur konten manipulatif, kata Prateek Waghre, direktur eksekutif Internet Freedom Foundation India, sebuah wadah pemikir kebijakan teknologi terkemuka yang berbasis di New Delhi. “Ini hampir hanya angan-angan,” katanya.

Dengan argumen bahwa perusahaan teknologi belum mampu mengatasi permasalahan yang ada melalui moderasi konten, Waghre mengatakan bahwa “kebangkitan AI saat ini” telah menambah tantangan. Dan pendekatan moderasi konten saat ini mengabaikan apa yang sebenarnya menjadi inti permasalahan, katanya.

“Anda tidak menyelesaikan masalah,” katanya. “Desain [algoritme] memiliki kelemahan.”

7. Privasi yang Makin Tak Terjaga

Foto/Reuters

Pada tanggal 16 Februari, perusahaan teknologi besar menandatangani perjanjian di Konferensi Keamanan Munich untuk secara sukarela menerapkan “tindakan pencegahan yang wajar” guna mencegah penggunaan alat kecerdasan buatan untuk mengganggu pemilu demokratis di seluruh dunia. Namun perjanjian yang dibuat secara samar-samar ini membuat banyak pendukung dan kritikus kecewa.

YouTube telah mengumumkan bahwa mereka akan memungkinkan orang untuk meminta penghapusan konten yang dibuat atau diubah oleh AI yang mensimulasikan orang yang dapat diidentifikasi, termasuk wajah atau suaranya, menggunakan proses permintaan privasinya.

“Saya tidak terlalu optimis dengan kemampuan platform ini dalam mendeteksi deepfake,” kata Ravi Iyer, direktur pelaksana Neely Center for Ethical Leadership and Decision Making di Marshall School of Business, Universitas Southern California. “Dengan rendahnya literasi digital dan meningkatnya konsumsi video, hal ini menimbulkan risiko besar bagi integritas pemilu di India.”

Mengidentifikasi setiap media yang dimanipulasi oleh AI bukanlah tugas yang masuk akal, kata Iyer, sehingga perusahaan perlu mendesain ulang algoritma yang tidak mendorong polarisasi konten. “Perusahaan adalah pihak yang memiliki uang dan sumber daya, mereka perlu mengambil langkah-langkah yang wajar untuk mengatasi maraknya deepfake,” katanya.

Internet Freedom Foundation telah menerbitkan surat terbuka yang mendesak kandidat dan partai pemilu untuk secara sukarela menahan diri dari penggunaan teknologi deepfake menjelang pemilu nasional. Waghre tidak yakin banyak yang akan menggigit, tapi menurutnya ini patut dicoba.

Sementara itu, kampanye politik sedang memperkuat persenjataan AI mereka – dan beberapa pihak, seperti Reddy, koordinator nasional media sosial di Kongres, mengakui bahwa masa depan terlihat suram.

“Kebanyakan orang yang menggunakan AI bertujuan untuk memutarbalikkan fakta. Mereka ingin menciptakan persepsi yang tidak berdasarkan kebenaran,” kata Reddy. “Gabungkan penetrasi media sosial di India dengan kebangkitan AI, kebenarannya akan berada di luar jangkauan masyarakat dalam pemilu saat ini.”