7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu
Rabu, 21 Februari 2024 - 21:50 WIB
loading...
A
A
A
Quraishi mengatakan bahwa deepfake perlu dimoderasi secara real-time untuk meminimalkan dampak buruk terhadap demokrasi India.
“ECI perlu mengambil tindakan sebelum kerusakan terjadi,” katanya. “Mereka harus lebih cepat.”
![7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu]()
Foto/Reuters
Pemerintah India telah menekan perusahaan teknologi besar, termasuk Google dan Meta, untuk secara aktif melakukan upaya untuk memoderasi deepfake di platform mereka. Menteri TI Rajeev Chandrasekhar telah bertemu dengan pejabat dari perusahaan-perusahaan ini sebagai bagian dari pertimbangan mengenai ancaman yang ditimbulkan oleh deepfake.
Dengan meminta sektor teknologi untuk memimpin, pemerintah lolos dari kritik apa pun yang menyatakan bahwa pemerintah sedang mencoba menyensor deepfake yang selektif, atau bahwa pemerintah sedang mencoba untuk menindak teknologi AI yang sedang berkembang secara lebih luas.
Namun dengan memberikan tanggung jawab kepada perusahaan swasta, pemerintah menimbulkan pertanyaan tentang ketulusan niatnya untuk mengatur konten manipulatif, kata Prateek Waghre, direktur eksekutif Internet Freedom Foundation India, sebuah wadah pemikir kebijakan teknologi terkemuka yang berbasis di New Delhi. “Ini hampir hanya angan-angan,” katanya.
Dengan argumen bahwa perusahaan teknologi belum mampu mengatasi permasalahan yang ada melalui moderasi konten, Waghre mengatakan bahwa “kebangkitan AI saat ini” telah menambah tantangan. Dan pendekatan moderasi konten saat ini mengabaikan apa yang sebenarnya menjadi inti permasalahan, katanya.
“Anda tidak menyelesaikan masalah,” katanya. “Desain [algoritme] memiliki kelemahan.”
![7 Tipu Daya AI yang Mempengaruhi Pemilu India 2024, Salah Satunya Menghasilkan Demokrasi Palsu]()
Foto/Reuters
Pada tanggal 16 Februari, perusahaan teknologi besar menandatangani perjanjian di Konferensi Keamanan Munich untuk secara sukarela menerapkan “tindakan pencegahan yang wajar” guna mencegah penggunaan alat kecerdasan buatan untuk mengganggu pemilu demokratis di seluruh dunia. Namun perjanjian yang dibuat secara samar-samar ini membuat banyak pendukung dan kritikus kecewa.
YouTube telah mengumumkan bahwa mereka akan memungkinkan orang untuk meminta penghapusan konten yang dibuat atau diubah oleh AI yang mensimulasikan orang yang dapat diidentifikasi, termasuk wajah atau suaranya, menggunakan proses permintaan privasinya.
“Saya tidak terlalu optimis dengan kemampuan platform ini dalam mendeteksi deepfake,” kata Ravi Iyer, direktur pelaksana Neely Center for Ethical Leadership and Decision Making di Marshall School of Business, Universitas Southern California. “Dengan rendahnya literasi digital dan meningkatnya konsumsi video, hal ini menimbulkan risiko besar bagi integritas pemilu di India.”
Mengidentifikasi setiap media yang dimanipulasi oleh AI bukanlah tugas yang masuk akal, kata Iyer, sehingga perusahaan perlu mendesain ulang algoritma yang tidak mendorong polarisasi konten. “Perusahaan adalah pihak yang memiliki uang dan sumber daya, mereka perlu mengambil langkah-langkah yang wajar untuk mengatasi maraknya deepfake,” katanya.
Internet Freedom Foundation telah menerbitkan surat terbuka yang mendesak kandidat dan partai pemilu untuk secara sukarela menahan diri dari penggunaan teknologi deepfake menjelang pemilu nasional. Waghre tidak yakin banyak yang akan menggigit, tapi menurutnya ini patut dicoba.
Sementara itu, kampanye politik sedang memperkuat persenjataan AI mereka – dan beberapa pihak, seperti Reddy, koordinator nasional media sosial di Kongres, mengakui bahwa masa depan terlihat suram.
“Kebanyakan orang yang menggunakan AI bertujuan untuk memutarbalikkan fakta. Mereka ingin menciptakan persepsi yang tidak berdasarkan kebenaran,” kata Reddy. “Gabungkan penetrasi media sosial di India dengan kebangkitan AI, kebenarannya akan berada di luar jangkauan masyarakat dalam pemilu saat ini.”
“ECI perlu mengambil tindakan sebelum kerusakan terjadi,” katanya. “Mereka harus lebih cepat.”
6. Kebenaran Makin Sulit Dijangkau karena Demokrasi Palsu
Foto/Reuters
Pemerintah India telah menekan perusahaan teknologi besar, termasuk Google dan Meta, untuk secara aktif melakukan upaya untuk memoderasi deepfake di platform mereka. Menteri TI Rajeev Chandrasekhar telah bertemu dengan pejabat dari perusahaan-perusahaan ini sebagai bagian dari pertimbangan mengenai ancaman yang ditimbulkan oleh deepfake.
Dengan meminta sektor teknologi untuk memimpin, pemerintah lolos dari kritik apa pun yang menyatakan bahwa pemerintah sedang mencoba menyensor deepfake yang selektif, atau bahwa pemerintah sedang mencoba untuk menindak teknologi AI yang sedang berkembang secara lebih luas.
Namun dengan memberikan tanggung jawab kepada perusahaan swasta, pemerintah menimbulkan pertanyaan tentang ketulusan niatnya untuk mengatur konten manipulatif, kata Prateek Waghre, direktur eksekutif Internet Freedom Foundation India, sebuah wadah pemikir kebijakan teknologi terkemuka yang berbasis di New Delhi. “Ini hampir hanya angan-angan,” katanya.
Dengan argumen bahwa perusahaan teknologi belum mampu mengatasi permasalahan yang ada melalui moderasi konten, Waghre mengatakan bahwa “kebangkitan AI saat ini” telah menambah tantangan. Dan pendekatan moderasi konten saat ini mengabaikan apa yang sebenarnya menjadi inti permasalahan, katanya.
“Anda tidak menyelesaikan masalah,” katanya. “Desain [algoritme] memiliki kelemahan.”
7. Privasi yang Makin Tak Terjaga
Foto/Reuters
Pada tanggal 16 Februari, perusahaan teknologi besar menandatangani perjanjian di Konferensi Keamanan Munich untuk secara sukarela menerapkan “tindakan pencegahan yang wajar” guna mencegah penggunaan alat kecerdasan buatan untuk mengganggu pemilu demokratis di seluruh dunia. Namun perjanjian yang dibuat secara samar-samar ini membuat banyak pendukung dan kritikus kecewa.
YouTube telah mengumumkan bahwa mereka akan memungkinkan orang untuk meminta penghapusan konten yang dibuat atau diubah oleh AI yang mensimulasikan orang yang dapat diidentifikasi, termasuk wajah atau suaranya, menggunakan proses permintaan privasinya.
“Saya tidak terlalu optimis dengan kemampuan platform ini dalam mendeteksi deepfake,” kata Ravi Iyer, direktur pelaksana Neely Center for Ethical Leadership and Decision Making di Marshall School of Business, Universitas Southern California. “Dengan rendahnya literasi digital dan meningkatnya konsumsi video, hal ini menimbulkan risiko besar bagi integritas pemilu di India.”
Mengidentifikasi setiap media yang dimanipulasi oleh AI bukanlah tugas yang masuk akal, kata Iyer, sehingga perusahaan perlu mendesain ulang algoritma yang tidak mendorong polarisasi konten. “Perusahaan adalah pihak yang memiliki uang dan sumber daya, mereka perlu mengambil langkah-langkah yang wajar untuk mengatasi maraknya deepfake,” katanya.
Internet Freedom Foundation telah menerbitkan surat terbuka yang mendesak kandidat dan partai pemilu untuk secara sukarela menahan diri dari penggunaan teknologi deepfake menjelang pemilu nasional. Waghre tidak yakin banyak yang akan menggigit, tapi menurutnya ini patut dicoba.
Sementara itu, kampanye politik sedang memperkuat persenjataan AI mereka – dan beberapa pihak, seperti Reddy, koordinator nasional media sosial di Kongres, mengakui bahwa masa depan terlihat suram.
“Kebanyakan orang yang menggunakan AI bertujuan untuk memutarbalikkan fakta. Mereka ingin menciptakan persepsi yang tidak berdasarkan kebenaran,” kata Reddy. “Gabungkan penetrasi media sosial di India dengan kebangkitan AI, kebenarannya akan berada di luar jangkauan masyarakat dalam pemilu saat ini.”
(ahm)
Lihat Juga :
