Rasis, Sistem AI Facebook Pasang Label 'Primata' di Video Pria Kulit Hitam
Sabtu, 04 September 2021 - 16:33 WIB
loading...
A
A
A
Darci Groves, mantan manajer desain konten di Facebook, mengatakan seorang teman mengiriminya tangkapan layar video yang menampilkan pria kulit hitam, termasuk permintaan yang dibuat secara otomatis perusahaan yang menanyakan pemirsa apakah mereka ingin "terus melihat video tentang primata".
Video, yang diunggah oleh tabloid Inggris; Daily Mail, pada Juni 2020, berisi klip dari dua insiden terpisah di AS—salah satu dari sekelompok pria kulit hitam berdebat dengan seorang kulit putih di sebuah jalan di Connecticut, dan salah satu dari beberapa pria kulit hitam berdebat dengan petugas polisi kulit putih di Indiana sebelum ditahan.
Menurut The New York Times, Groves mem-posting tangkapan layar yang dimaksud ke forum umpan balik produk untuk karyawan Facebook saat ini dan mantan karyawan. Seorang manajer produk kemudian menyebut rekomendasi tersebut "tidak dapat diterima" dan berjanji untuk menyelidiki insiden tersebut.
Tahun lalu, Facebook membentuk tim di Instagram untuk mempelajari bagaimana pengguna minoritas yang berbeda dipengaruhi oleh algoritma. Langkah itu dilakukan setelah raksasa media sosial itu dikritik karena mengabaikan bias rasial di platform-nya.
Algoritma yang digunakan oleh raksasa teknologi mendapat kecaman karena kesalahan memalukan di masa lalu. Pada tahun 2015, Google meminta maaf setelah aplikasi fotonya melabeli gambar orang kulit hitam sebagai "gorila".
Video, yang diunggah oleh tabloid Inggris; Daily Mail, pada Juni 2020, berisi klip dari dua insiden terpisah di AS—salah satu dari sekelompok pria kulit hitam berdebat dengan seorang kulit putih di sebuah jalan di Connecticut, dan salah satu dari beberapa pria kulit hitam berdebat dengan petugas polisi kulit putih di Indiana sebelum ditahan.
Menurut The New York Times, Groves mem-posting tangkapan layar yang dimaksud ke forum umpan balik produk untuk karyawan Facebook saat ini dan mantan karyawan. Seorang manajer produk kemudian menyebut rekomendasi tersebut "tidak dapat diterima" dan berjanji untuk menyelidiki insiden tersebut.
Tahun lalu, Facebook membentuk tim di Instagram untuk mempelajari bagaimana pengguna minoritas yang berbeda dipengaruhi oleh algoritma. Langkah itu dilakukan setelah raksasa media sosial itu dikritik karena mengabaikan bias rasial di platform-nya.
Algoritma yang digunakan oleh raksasa teknologi mendapat kecaman karena kesalahan memalukan di masa lalu. Pada tahun 2015, Google meminta maaf setelah aplikasi fotonya melabeli gambar orang kulit hitam sebagai "gorila".
(min)
Lihat Juga :
