Software Deteksi Emosi AI Dites pada Etnis Uighur di Xinjiang

Beijing selalu berpendapat bahwa pengawasan diperlukan di wilayah tersebut dengan dalih separatis yang ingin mendirikan negara sendiri telah membunuh ratusan orang dalam serangan teror.

Insinyur perangkat lunak setuju berbicara dengan program Panorama BBC tanpa menyebut nama, karena dia khawatir akan keselamatannya. Perusahaan tempat dia bekerja juga tidak diungkapkan.

Tapi dia menunjukkan Panorama BBC pada lima foto tahanan Uighur yang dia klaim telah diuji sistem pengenalan emosi pada mereka.

"Pemerintah China menggunakan Uighur sebagai subjek uji untuk berbagai eksperimen seperti tikus yang digunakan di laboratorium," papar dia.

Dia menjelaskan perannya dalam memasang kamera di kantor polisi di provinsi tersebut. "Kami menempatkan kamera pendeteksi emosi 3 meter dari subjek. Ini mirip dengan pendeteksi kebohongan tetapi teknologi yang jauh lebih maju," ujar dia.

Dia mengatakan petugas menggunakan "kursi penahan" yang banyak dipasang di kantor polisi di China.

"Pergelangan tangan Anda terkunci di tempatnya dengan pengekang logam, dan (hal) yang sama berlaku untuk pergelangan kaki Anda," papar dia.

Dia memberikan bukti tentang bagaimana sistem AI dilatih untuk mendeteksi dan menganalisis perubahan kecil pada ekspresi wajah dan pori-pori kulit.

Menurut klaimnya, perangkat lunak tersebut membuat diagram lingkaran, dengan segmen merah mewakili keadaan pikiran yang negatif atau cemas.

Dia mengklaim perangkat lunak itu dimaksudkan untuk "pra-penilaian tanpa bukti yang dapat dipercaya."

Kedutaan Besar China di London tidak menanggapi pertanyaan tentang penggunaan perangkat lunak pengenalan emosi di provinsi tersebut tetapi mengatakan, "Hak-hak politik, ekonomi, dan sosial serta kebebasan berkeyakinan beragama di semua kelompok etnis di Xinjiang dijamin sepenuhnya. Orang hidup dalam harmoni tanpa memandang latar belakang etnis mereka dan menikmati kehidupan yang stabil dan damai tanpa batasan kebebasan pribadi."

Bukti itu juga diperlihatkan kepada Sophie Richardson, direktur Human Rights Watch China.

"Ini adalah materi yang mengejutkan. Bukan hanya orang-orang yang direduksi menjadi diagram lingkaran, tetapi orang-orang yang berada dalam keadaan yang sangat dipaksa, di bawah tekanan yang sangat besar, merasa gugup dan itu dianggap sebagai indikasi rasa bersalah, dan saya pikir, itu sangat bermasalah," tutur dia.