Software Deteksi Emosi AI Dites pada Etnis Uighur di Xinjiang
Rabu, 26 Mei 2021 - 10:31 WIB
SenseTime merupakan salah satu perusahaan kecerdasan buatan asal China yang mengembangkan teknologi pengenalan wajah. Foto/Gilles Sabrie/The New York Times
BEIJING - Sistem kamera yang menggunakan kecerdasan buatan (AI) dan pengenalan wajah yang dimaksudkan untuk mengungkapkan keadaan emosi telah diuji pada Uighur di Xinjiang, China .
Laporan terbaru itu diungkapkan BBC. Seorang insinyur perangkat lunak mengklaim telah memasang sistem seperti itu di kantor polisi di provinsi Xinjiang.
Seorang pembela hak asasi manusia yang diperlihatkan bukti menggambarkannya sebagai hal yang mengejutkan.
Dalam salah satu foto yang diperlihatkan, tampak data dari sistem bertujuan mengindikasikan kondisi pikiran seseorang, dengan merah menyatakan negatif atau kondisi pikiran cemas.
Kedutaan Besar (Kedubes) China di London belum menanggapi secara langsung klaim tersebut tetapi mengatakan hak politik dan sosial di semua kelompok etnis dijamin.
Xinjiang adalah rumah bagi 12 juta etnis minoritas Uighur yang sebagian besar beragama Islam.
Warga di provinsi itu diawasi setiap hari. Daerah ini juga menjadi rumah bagi "pusat pendidikan ulang" yang sangat kontroversial, yang disebut kamp penahanan dengan keamanan tinggi oleh kelompok hak asasi manusia.
Di kamp tersebut diperkirakan lebih dari satu juta orang telah ditahan.
Beijing selalu berpendapat bahwa pengawasan diperlukan di wilayah tersebut dengan dalih separatis yang ingin mendirikan negara sendiri telah membunuh ratusan orang dalam serangan teror.
Insinyur perangkat lunak setuju berbicara dengan program Panorama BBC tanpa menyebut nama, karena dia khawatir akan keselamatannya. Perusahaan tempat dia bekerja juga tidak diungkapkan.
Tapi dia menunjukkan Panorama BBC pada lima foto tahanan Uighur yang dia klaim telah diuji sistem pengenalan emosi pada mereka.
"Pemerintah China menggunakan Uighur sebagai subjek uji untuk berbagai eksperimen seperti tikus yang digunakan di laboratorium," papar dia.
Dia menjelaskan perannya dalam memasang kamera di kantor polisi di provinsi tersebut. "Kami menempatkan kamera pendeteksi emosi 3 meter dari subjek. Ini mirip dengan pendeteksi kebohongan tetapi teknologi yang jauh lebih maju," ujar dia.
Dia mengatakan petugas menggunakan "kursi penahan" yang banyak dipasang di kantor polisi di China.
"Pergelangan tangan Anda terkunci di tempatnya dengan pengekang logam, dan (hal) yang sama berlaku untuk pergelangan kaki Anda," papar dia.
Dia memberikan bukti tentang bagaimana sistem AI dilatih untuk mendeteksi dan menganalisis perubahan kecil pada ekspresi wajah dan pori-pori kulit.
Menurut klaimnya, perangkat lunak tersebut membuat diagram lingkaran, dengan segmen merah mewakili keadaan pikiran yang negatif atau cemas.
Dia mengklaim perangkat lunak itu dimaksudkan untuk "pra-penilaian tanpa bukti yang dapat dipercaya."
Kedutaan Besar China di London tidak menanggapi pertanyaan tentang penggunaan perangkat lunak pengenalan emosi di provinsi tersebut tetapi mengatakan, "Hak-hak politik, ekonomi, dan sosial serta kebebasan berkeyakinan beragama di semua kelompok etnis di Xinjiang dijamin sepenuhnya. Orang hidup dalam harmoni tanpa memandang latar belakang etnis mereka dan menikmati kehidupan yang stabil dan damai tanpa batasan kebebasan pribadi."
Bukti itu juga diperlihatkan kepada Sophie Richardson, direktur Human Rights Watch China.
"Ini adalah materi yang mengejutkan. Bukan hanya orang-orang yang direduksi menjadi diagram lingkaran, tetapi orang-orang yang berada dalam keadaan yang sangat dipaksa, di bawah tekanan yang sangat besar, merasa gugup dan itu dianggap sebagai indikasi rasa bersalah, dan saya pikir, itu sangat bermasalah," tutur dia.
Laporan terbaru itu diungkapkan BBC. Seorang insinyur perangkat lunak mengklaim telah memasang sistem seperti itu di kantor polisi di provinsi Xinjiang.
Seorang pembela hak asasi manusia yang diperlihatkan bukti menggambarkannya sebagai hal yang mengejutkan.
Dalam salah satu foto yang diperlihatkan, tampak data dari sistem bertujuan mengindikasikan kondisi pikiran seseorang, dengan merah menyatakan negatif atau kondisi pikiran cemas.
Kedutaan Besar (Kedubes) China di London belum menanggapi secara langsung klaim tersebut tetapi mengatakan hak politik dan sosial di semua kelompok etnis dijamin.
Xinjiang adalah rumah bagi 12 juta etnis minoritas Uighur yang sebagian besar beragama Islam.
Warga di provinsi itu diawasi setiap hari. Daerah ini juga menjadi rumah bagi "pusat pendidikan ulang" yang sangat kontroversial, yang disebut kamp penahanan dengan keamanan tinggi oleh kelompok hak asasi manusia.
Di kamp tersebut diperkirakan lebih dari satu juta orang telah ditahan.
Beijing selalu berpendapat bahwa pengawasan diperlukan di wilayah tersebut dengan dalih separatis yang ingin mendirikan negara sendiri telah membunuh ratusan orang dalam serangan teror.
Insinyur perangkat lunak setuju berbicara dengan program Panorama BBC tanpa menyebut nama, karena dia khawatir akan keselamatannya. Perusahaan tempat dia bekerja juga tidak diungkapkan.
Tapi dia menunjukkan Panorama BBC pada lima foto tahanan Uighur yang dia klaim telah diuji sistem pengenalan emosi pada mereka.
"Pemerintah China menggunakan Uighur sebagai subjek uji untuk berbagai eksperimen seperti tikus yang digunakan di laboratorium," papar dia.
Dia menjelaskan perannya dalam memasang kamera di kantor polisi di provinsi tersebut. "Kami menempatkan kamera pendeteksi emosi 3 meter dari subjek. Ini mirip dengan pendeteksi kebohongan tetapi teknologi yang jauh lebih maju," ujar dia.
Dia mengatakan petugas menggunakan "kursi penahan" yang banyak dipasang di kantor polisi di China.
"Pergelangan tangan Anda terkunci di tempatnya dengan pengekang logam, dan (hal) yang sama berlaku untuk pergelangan kaki Anda," papar dia.
Dia memberikan bukti tentang bagaimana sistem AI dilatih untuk mendeteksi dan menganalisis perubahan kecil pada ekspresi wajah dan pori-pori kulit.
Menurut klaimnya, perangkat lunak tersebut membuat diagram lingkaran, dengan segmen merah mewakili keadaan pikiran yang negatif atau cemas.
Dia mengklaim perangkat lunak itu dimaksudkan untuk "pra-penilaian tanpa bukti yang dapat dipercaya."
Kedutaan Besar China di London tidak menanggapi pertanyaan tentang penggunaan perangkat lunak pengenalan emosi di provinsi tersebut tetapi mengatakan, "Hak-hak politik, ekonomi, dan sosial serta kebebasan berkeyakinan beragama di semua kelompok etnis di Xinjiang dijamin sepenuhnya. Orang hidup dalam harmoni tanpa memandang latar belakang etnis mereka dan menikmati kehidupan yang stabil dan damai tanpa batasan kebebasan pribadi."
Bukti itu juga diperlihatkan kepada Sophie Richardson, direktur Human Rights Watch China.
"Ini adalah materi yang mengejutkan. Bukan hanya orang-orang yang direduksi menjadi diagram lingkaran, tetapi orang-orang yang berada dalam keadaan yang sangat dipaksa, di bawah tekanan yang sangat besar, merasa gugup dan itu dianggap sebagai indikasi rasa bersalah, dan saya pikir, itu sangat bermasalah," tutur dia.
(sya)
tulis komentar anda