5 Dampak Negatif Deepfake dan AI dalam Pemilu AS
Kamis, 20 Juni 2024 - 16:55 WIB
Foto/AP
Meskipun deepfake semakin menjadi perhatian dalam pemilu AS, hanya sedikit undang-undang federal yang membatasi penggunaannya. Komisi Pemilihan Umum Federal (FEC) belum membatasi deepfake dalam pemilu, dan rancangan undang-undang di Kongres masih terhenti.
Masing-masing negara bagian berupaya mengisi kekosongan tersebut. Menurut pelacak undang-undang yang diterbitkan oleh organisasi advokasi konsumen Public Citizen, sejauh ini 20 undang-undang negara bagian telah diberlakukan untuk mengatur deepfake dalam pemilu.
Beberapa rancangan undang-undang lainnya – di Hawaii, Louisiana dan New Hampshire – telah disahkan dan sedang menunggu tanda tangan gubernur.
Norden mengatakan dia tidak terkejut melihat masing-masing negara bagian bertindak di hadapan Kongres. “Negara seharusnya menjadi laboratorium demokrasi, sehingga hal ini kembali terbukti: negaralah yang bertindak terlebih dahulu. Kita semua tahu sangat sulit untuk meloloskan apa pun di Kongres,” katanya.
Para pemilih dan organisasi politik juga mengambil tindakan. Setelah Gingrich menerima telepon palsu Biden di New Hampshire, dia bergabung dengan tuntutan hukum – yang dipimpin oleh Liga Pemilih Wanita – mencari pertanggungjawaban atas dugaan penipuan tersebut.
Sumber seruan tersebut ternyata adalah Steve Kramer, seorang konsultan politik yang mengaku niatnya adalah untuk menarik perhatian akan perlunya mengatur AI dalam politik. Kramer juga mengaku berada di balik robocall di Carolina Selatan, menirukan Senator Graham.
Kramer mengajukan pernyataan tersebut setelah NBC News mengungkapkan bahwa dia telah menugaskan seorang pesulap untuk menggunakan perangkat lunak yang tersedia untuk umum guna menghasilkan suara palsu Biden.
Menurut gugatan tersebut, pembuatan deepfake membutuhkan waktu kurang dari 20 menit dan hanya berharga USD1.
Kramer, bagaimanapun, mengatakan kepada CBS News bahwa ia menerima “paparan senilai USD5 juta” atas upayanya, yang ia harap akan memungkinkan peraturan AI untuk “bermain sendiri atau setidaknya mulai membayar sendiri”.
“Niat saya adalah membuat perbedaan,” katanya.
Namun kasus Kramer menunjukkan bahwa undang-undang yang ada dapat digunakan untuk membatasi deepfake.
Komisi Komunikasi Federal (FCC), misalnya, memutuskan (PDF) awal tahun ini bahwa perangkat lunak yang meniru suara termasuk dalam Undang-Undang Perlindungan Konsumen Telepon tahun 1991 – dan oleh karena itu dianggap ilegal di sebagian besar situasi.
Komisi akhirnya mengusulkan denda USD6 juta terhadap Kramer karena robocall ilegal.
Departemen Kehakiman New Hampshire juga mendakwa Kramer melakukan kejahatan penindasan terhadap pemilih dan menyamar sebagai kandidat, yang dapat mengakibatkan hukuman hingga tujuh tahun penjara. Kramer telah mengaku tidak bersalah. Dia tidak menanggapi permintaan komentar dari Al Jazeera.
Norden mengatakan penting bahwa tidak ada satu pun undang-undang yang dituduhkan Kramer dilanggar, yang secara khusus dirancang untuk deepfake. “Tuduhan pidana terhadapnya tidak ada hubungannya dengan AI,” ujarnya. “Undang-undang tersebut ada secara independen dari teknologi yang digunakan.”
Namun, undang-undang tersebut tidak mudah diterapkan pada pelaku kejahatan yang tidak dapat diidentifikasi atau berlokasi di luar AS.
“Kami mengetahui dari badan intelijen bahwa mereka telah melihat Tiongkok dan Rusia bereksperimen dengan alat-alat ini. Dan mereka mengharapkannya untuk digunakan,” kata Norden. “Dalam hal ini, Anda tidak akan membuat undang-undang untuk keluar dari masalah ini.”
Baik Norden maupun Johnson percaya bahwa kurangnya peraturan membuat pemilih semakin penting untuk mendapatkan informasi tentang deepfake – dan mempelajari cara menemukan informasi yang akurat.
Adapun Gingrich, dia mengatakan dia tahu bahwa deepfake yang manipulatif hanya akan semakin meluas. Dia juga merasa para pemilih perlu menginformasikan diri mereka sendiri tentang risiko ini.
Pesannya kepada para pemilih? “Saya akan memberitahu masyarakat untuk memastikan bahwa mereka tahu bahwa mereka dapat memilih.”
Meskipun deepfake semakin menjadi perhatian dalam pemilu AS, hanya sedikit undang-undang federal yang membatasi penggunaannya. Komisi Pemilihan Umum Federal (FEC) belum membatasi deepfake dalam pemilu, dan rancangan undang-undang di Kongres masih terhenti.
Masing-masing negara bagian berupaya mengisi kekosongan tersebut. Menurut pelacak undang-undang yang diterbitkan oleh organisasi advokasi konsumen Public Citizen, sejauh ini 20 undang-undang negara bagian telah diberlakukan untuk mengatur deepfake dalam pemilu.
Beberapa rancangan undang-undang lainnya – di Hawaii, Louisiana dan New Hampshire – telah disahkan dan sedang menunggu tanda tangan gubernur.
Norden mengatakan dia tidak terkejut melihat masing-masing negara bagian bertindak di hadapan Kongres. “Negara seharusnya menjadi laboratorium demokrasi, sehingga hal ini kembali terbukti: negaralah yang bertindak terlebih dahulu. Kita semua tahu sangat sulit untuk meloloskan apa pun di Kongres,” katanya.
Para pemilih dan organisasi politik juga mengambil tindakan. Setelah Gingrich menerima telepon palsu Biden di New Hampshire, dia bergabung dengan tuntutan hukum – yang dipimpin oleh Liga Pemilih Wanita – mencari pertanggungjawaban atas dugaan penipuan tersebut.
Sumber seruan tersebut ternyata adalah Steve Kramer, seorang konsultan politik yang mengaku niatnya adalah untuk menarik perhatian akan perlunya mengatur AI dalam politik. Kramer juga mengaku berada di balik robocall di Carolina Selatan, menirukan Senator Graham.
Kramer mengajukan pernyataan tersebut setelah NBC News mengungkapkan bahwa dia telah menugaskan seorang pesulap untuk menggunakan perangkat lunak yang tersedia untuk umum guna menghasilkan suara palsu Biden.
Menurut gugatan tersebut, pembuatan deepfake membutuhkan waktu kurang dari 20 menit dan hanya berharga USD1.
Kramer, bagaimanapun, mengatakan kepada CBS News bahwa ia menerima “paparan senilai USD5 juta” atas upayanya, yang ia harap akan memungkinkan peraturan AI untuk “bermain sendiri atau setidaknya mulai membayar sendiri”.
“Niat saya adalah membuat perbedaan,” katanya.
Namun kasus Kramer menunjukkan bahwa undang-undang yang ada dapat digunakan untuk membatasi deepfake.
Komisi Komunikasi Federal (FCC), misalnya, memutuskan (PDF) awal tahun ini bahwa perangkat lunak yang meniru suara termasuk dalam Undang-Undang Perlindungan Konsumen Telepon tahun 1991 – dan oleh karena itu dianggap ilegal di sebagian besar situasi.
Komisi akhirnya mengusulkan denda USD6 juta terhadap Kramer karena robocall ilegal.
Departemen Kehakiman New Hampshire juga mendakwa Kramer melakukan kejahatan penindasan terhadap pemilih dan menyamar sebagai kandidat, yang dapat mengakibatkan hukuman hingga tujuh tahun penjara. Kramer telah mengaku tidak bersalah. Dia tidak menanggapi permintaan komentar dari Al Jazeera.
Norden mengatakan penting bahwa tidak ada satu pun undang-undang yang dituduhkan Kramer dilanggar, yang secara khusus dirancang untuk deepfake. “Tuduhan pidana terhadapnya tidak ada hubungannya dengan AI,” ujarnya. “Undang-undang tersebut ada secara independen dari teknologi yang digunakan.”
Namun, undang-undang tersebut tidak mudah diterapkan pada pelaku kejahatan yang tidak dapat diidentifikasi atau berlokasi di luar AS.
“Kami mengetahui dari badan intelijen bahwa mereka telah melihat Tiongkok dan Rusia bereksperimen dengan alat-alat ini. Dan mereka mengharapkannya untuk digunakan,” kata Norden. “Dalam hal ini, Anda tidak akan membuat undang-undang untuk keluar dari masalah ini.”
Baik Norden maupun Johnson percaya bahwa kurangnya peraturan membuat pemilih semakin penting untuk mendapatkan informasi tentang deepfake – dan mempelajari cara menemukan informasi yang akurat.
Adapun Gingrich, dia mengatakan dia tahu bahwa deepfake yang manipulatif hanya akan semakin meluas. Dia juga merasa para pemilih perlu menginformasikan diri mereka sendiri tentang risiko ini.
Pesannya kepada para pemilih? “Saya akan memberitahu masyarakat untuk memastikan bahwa mereka tahu bahwa mereka dapat memilih.”
(ahm)
Lihat Juga :