5 Dampak Negatif Deepfake dan AI dalam Pemilu AS

Para pemilih dan organisasi politik juga mengambil tindakan. Setelah Gingrich menerima telepon palsu Biden di New Hampshire, dia bergabung dengan tuntutan hukum – yang dipimpin oleh Liga Pemilih Wanita – mencari pertanggungjawaban atas dugaan penipuan tersebut.

Sumber seruan tersebut ternyata adalah Steve Kramer, seorang konsultan politik yang mengaku niatnya adalah untuk menarik perhatian akan perlunya mengatur AI dalam politik. Kramer juga mengaku berada di balik robocall di Carolina Selatan, menirukan Senator Graham.

Kramer mengajukan pernyataan tersebut setelah NBC News mengungkapkan bahwa dia telah menugaskan seorang pesulap untuk menggunakan perangkat lunak yang tersedia untuk umum guna menghasilkan suara palsu Biden.

Menurut gugatan tersebut, pembuatan deepfake membutuhkan waktu kurang dari 20 menit dan hanya berharga USD1.

Kramer, bagaimanapun, mengatakan kepada CBS News bahwa ia menerima “paparan senilai USD5 juta” atas upayanya, yang ia harap akan memungkinkan peraturan AI untuk “bermain sendiri atau setidaknya mulai membayar sendiri”.

“Niat saya adalah membuat perbedaan,” katanya.

Namun kasus Kramer menunjukkan bahwa undang-undang yang ada dapat digunakan untuk membatasi deepfake.

Komisi Komunikasi Federal (FCC), misalnya, memutuskan (PDF) awal tahun ini bahwa perangkat lunak yang meniru suara termasuk dalam Undang-Undang Perlindungan Konsumen Telepon tahun 1991 – dan oleh karena itu dianggap ilegal di sebagian besar situasi.

Komisi akhirnya mengusulkan denda USD6 juta terhadap Kramer karena robocall ilegal.

Departemen Kehakiman New Hampshire juga mendakwa Kramer melakukan kejahatan penindasan terhadap pemilih dan menyamar sebagai kandidat, yang dapat mengakibatkan hukuman hingga tujuh tahun penjara. Kramer telah mengaku tidak bersalah. Dia tidak menanggapi permintaan komentar dari Al Jazeera.

Norden mengatakan penting bahwa tidak ada satu pun undang-undang yang dituduhkan Kramer dilanggar, yang secara khusus dirancang untuk deepfake. “Tuduhan pidana terhadapnya tidak ada hubungannya dengan AI,” ujarnya. “Undang-undang tersebut ada secara independen dari teknologi yang digunakan.”

Namun, undang-undang tersebut tidak mudah diterapkan pada pelaku kejahatan yang tidak dapat diidentifikasi atau berlokasi di luar AS.

“Kami mengetahui dari badan intelijen bahwa mereka telah melihat Tiongkok dan Rusia bereksperimen dengan alat-alat ini. Dan mereka mengharapkannya untuk digunakan,” kata Norden. “Dalam hal ini, Anda tidak akan membuat undang-undang untuk keluar dari masalah ini.”

Baik Norden maupun Johnson percaya bahwa kurangnya peraturan membuat pemilih semakin penting untuk mendapatkan informasi tentang deepfake – dan mempelajari cara menemukan informasi yang akurat.

Adapun Gingrich, dia mengatakan dia tahu bahwa deepfake yang manipulatif hanya akan semakin meluas. Dia juga merasa para pemilih perlu menginformasikan diri mereka sendiri tentang risiko ini.

Pesannya kepada para pemilih? “Saya akan memberitahu masyarakat untuk memastikan bahwa mereka tahu bahwa mereka dapat memilih.”