Rasis, Sistem AI Facebook Pasang Label 'Primata' di Video Pria Kulit Hitam
loading...
Tangkapan layar sistem Facebook (kiri) yang menautkan video pria kulit hitam dengan label primata. Foto/Twitter @tweetsbydarci/REUTERS/Dado Ruvic
A
A
A
WASHINGTON - Facebook , raksasa media sosial yang berbasis di Amerika Serikat (AS), meminta maaf atas tindakan rasismenya. Permintaan maaf muncul setelah sistem artificial intelligence (AI) media sosial itu secara otomatis menautkan video yang banyak menampilkan pria kulit hitam dengan primata.
"Kami meminta maaf kepada siapa pun yang mungkin telah melihat rekomendasi ofensif ini," kata perusahaan Facebook dalam sebuah pernyataan kepada media, Sabtu (4/9/2021).
Perusahaan tersebut mengeklaim seluruh fitur rekomendasi topik telah dinonaktifkan.
"Seperti yang telah kami katakan, sementara kami telah membuat peningkatan pada AI kami, kami tahu itu tidak sempurna, dan kami memiliki lebih banyak kemajuan untuk dibuat," lanjut pihak Facebook.
Darci Groves, mantan manajer desain konten di Facebook, mengatakan seorang teman mengiriminya tangkapan layar video yang menampilkan pria kulit hitam, termasuk permintaan yang dibuat secara otomatis perusahaan yang menanyakan pemirsa apakah mereka ingin "terus melihat video tentang primata".
Video, yang diunggah oleh tabloid Inggris; Daily Mail, pada Juni 2020, berisi klip dari dua insiden terpisah di AS—salah satu dari sekelompok pria kulit hitam berdebat dengan seorang kulit putih di sebuah jalan di Connecticut, dan salah satu dari beberapa pria kulit hitam berdebat dengan petugas polisi kulit putih di Indiana sebelum ditahan.
Menurut The New York Times, Groves mem-posting tangkapan layar yang dimaksud ke forum umpan balik produk untuk karyawan Facebook saat ini dan mantan karyawan. Seorang manajer produk kemudian menyebut rekomendasi tersebut "tidak dapat diterima" dan berjanji untuk menyelidiki insiden tersebut.
Tahun lalu, Facebook membentuk tim di Instagram untuk mempelajari bagaimana pengguna minoritas yang berbeda dipengaruhi oleh algoritma. Langkah itu dilakukan setelah raksasa media sosial itu dikritik karena mengabaikan bias rasial di platform-nya.
Algoritma yang digunakan oleh raksasa teknologi mendapat kecaman karena kesalahan memalukan di masa lalu. Pada tahun 2015, Google meminta maaf setelah aplikasi fotonya melabeli gambar orang kulit hitam sebagai "gorila".
"Kami meminta maaf kepada siapa pun yang mungkin telah melihat rekomendasi ofensif ini," kata perusahaan Facebook dalam sebuah pernyataan kepada media, Sabtu (4/9/2021).
Perusahaan tersebut mengeklaim seluruh fitur rekomendasi topik telah dinonaktifkan.
"Seperti yang telah kami katakan, sementara kami telah membuat peningkatan pada AI kami, kami tahu itu tidak sempurna, dan kami memiliki lebih banyak kemajuan untuk dibuat," lanjut pihak Facebook.
Darci Groves, mantan manajer desain konten di Facebook, mengatakan seorang teman mengiriminya tangkapan layar video yang menampilkan pria kulit hitam, termasuk permintaan yang dibuat secara otomatis perusahaan yang menanyakan pemirsa apakah mereka ingin "terus melihat video tentang primata".
Video, yang diunggah oleh tabloid Inggris; Daily Mail, pada Juni 2020, berisi klip dari dua insiden terpisah di AS—salah satu dari sekelompok pria kulit hitam berdebat dengan seorang kulit putih di sebuah jalan di Connecticut, dan salah satu dari beberapa pria kulit hitam berdebat dengan petugas polisi kulit putih di Indiana sebelum ditahan.
Menurut The New York Times, Groves mem-posting tangkapan layar yang dimaksud ke forum umpan balik produk untuk karyawan Facebook saat ini dan mantan karyawan. Seorang manajer produk kemudian menyebut rekomendasi tersebut "tidak dapat diterima" dan berjanji untuk menyelidiki insiden tersebut.
Tahun lalu, Facebook membentuk tim di Instagram untuk mempelajari bagaimana pengguna minoritas yang berbeda dipengaruhi oleh algoritma. Langkah itu dilakukan setelah raksasa media sosial itu dikritik karena mengabaikan bias rasial di platform-nya.
Algoritma yang digunakan oleh raksasa teknologi mendapat kecaman karena kesalahan memalukan di masa lalu. Pada tahun 2015, Google meminta maaf setelah aplikasi fotonya melabeli gambar orang kulit hitam sebagai "gorila".
(min)
Lihat Juga :
