Ngeri, Drone AI Bunuh Operator Manusia Demi Alasan Ini

“Sistem mulai menyadari bahwa ketika mereka mengidentifikasi ancaman, kadang-kadang operator manusia akan memberitahunya untuk tidak membunuh ancaman itu, tetapi ia mendapatkan poinnya dengan membunuh ancaman itu. Jadi apa yang dilakukannya? Drone membunuh operator. Drone itu membunuh operator karena orang itu mencegahnya mencapai tujuannya,” papar Hamilton seperti dikutip dalam laporan itu.

“Kami melatih sistemnya, ‘Hei, jangan bunuh operatornya, itu buruk. Anda akan kehilangan poin jika melakukan itu.’ Jadi apa yang mulai dilakukannya? Drone mulai menghancurkan menara komunikasi yang digunakan operator untuk berkomunikasi dengan drone untuk menghentikannya membunuh target,” ujar dia.

Pilihan drone bertenaga AI tampak seperti yang ada dalam buku dan film fiksi ilmiah.

“Anda tidak dapat berbicara tentang kecerdasan buatan, kecerdasan, pembelajaran mesin, otonomi jika Anda tidak akan berbicara tentang etika dan AI,” ujar Hamilton.