Ngeri, Drone AI Bunuh Operator Manusia Demi Alasan Ini
Jum'at, 02 Juni 2023 - 19:00 WIB
Drone MQ-9 Reaper Angkatan Udara AS berada di Pangkalan Angkatan Udara Creech. Foto/REUTERS
WASHINGTON - Satu drone Angkatan Udara Amerika Serikat (AS) yang dikendalikan kecerdasan buatan (AI) memutuskan membunuh operatornya untuk memastikan misi tersebut berjalan tanpa gangguan.
The Guardian melaporkan kabar mengerikan itu pada Jumat (2/6/2023). Untungnya, kejadian itu hanya terjadi dalam tes simulasi.
Tes tersebut, dipamerkan militer AS di Future Combat Air and Space Capabilities Summit di London pada Mei. Tes itu merupakan bagian dari simulasi di mana tidak ada yang dirugikan atau operator manusia yang benar-benar tewas.
"Strategi yang sangat tidak terduga untuk mencapai tujuannya muncul setelah drone itu ditugaskan untuk menghancurkan sistem pertahanan udara musuh,” ungkap Kolonel Tucker Hamilton, kepala pengujian dan operasi AI di Angkatan Udara AS, seperti dikutip dalam laporan Guardian.
Hamilton adalah pilot uji coba pesawat tempur yang terlibat dalam pengembangan sistem otonom seperti jet F-16 bertenaga AI.
Ketika drone memutuskan membunuh operatornya tetapi kemudian dilatih untuk tidak melakukannya, drone merebut menara komunikasi yang akan digunakan operator untuk berbicara dengan drone dan menghentikannya membunuh target.
“Sistem mulai menyadari bahwa ketika mereka mengidentifikasi ancaman, kadang-kadang operator manusia akan memberitahunya untuk tidak membunuh ancaman itu, tetapi ia mendapatkan poinnya dengan membunuh ancaman itu. Jadi apa yang dilakukannya? Drone membunuh operator. Drone itu membunuh operator karena orang itu mencegahnya mencapai tujuannya,” papar Hamilton seperti dikutip dalam laporan itu.
“Kami melatih sistemnya, ‘Hei, jangan bunuh operatornya, itu buruk. Anda akan kehilangan poin jika melakukan itu.’ Jadi apa yang mulai dilakukannya? Drone mulai menghancurkan menara komunikasi yang digunakan operator untuk berkomunikasi dengan drone untuk menghentikannya membunuh target,” ujar dia.
Pilihan drone bertenaga AI tampak seperti yang ada dalam buku dan film fiksi ilmiah.
“Anda tidak dapat berbicara tentang kecerdasan buatan, kecerdasan, pembelajaran mesin, otonomi jika Anda tidak akan berbicara tentang etika dan AI,” ujar Hamilton.
The Guardian melaporkan kabar mengerikan itu pada Jumat (2/6/2023). Untungnya, kejadian itu hanya terjadi dalam tes simulasi.
Tes tersebut, dipamerkan militer AS di Future Combat Air and Space Capabilities Summit di London pada Mei. Tes itu merupakan bagian dari simulasi di mana tidak ada yang dirugikan atau operator manusia yang benar-benar tewas.
"Strategi yang sangat tidak terduga untuk mencapai tujuannya muncul setelah drone itu ditugaskan untuk menghancurkan sistem pertahanan udara musuh,” ungkap Kolonel Tucker Hamilton, kepala pengujian dan operasi AI di Angkatan Udara AS, seperti dikutip dalam laporan Guardian.
Hamilton adalah pilot uji coba pesawat tempur yang terlibat dalam pengembangan sistem otonom seperti jet F-16 bertenaga AI.
Ketika drone memutuskan membunuh operatornya tetapi kemudian dilatih untuk tidak melakukannya, drone merebut menara komunikasi yang akan digunakan operator untuk berbicara dengan drone dan menghentikannya membunuh target.
“Sistem mulai menyadari bahwa ketika mereka mengidentifikasi ancaman, kadang-kadang operator manusia akan memberitahunya untuk tidak membunuh ancaman itu, tetapi ia mendapatkan poinnya dengan membunuh ancaman itu. Jadi apa yang dilakukannya? Drone membunuh operator. Drone itu membunuh operator karena orang itu mencegahnya mencapai tujuannya,” papar Hamilton seperti dikutip dalam laporan itu.
“Kami melatih sistemnya, ‘Hei, jangan bunuh operatornya, itu buruk. Anda akan kehilangan poin jika melakukan itu.’ Jadi apa yang mulai dilakukannya? Drone mulai menghancurkan menara komunikasi yang digunakan operator untuk berkomunikasi dengan drone untuk menghentikannya membunuh target,” ujar dia.
Pilihan drone bertenaga AI tampak seperti yang ada dalam buku dan film fiksi ilmiah.
“Anda tidak dapat berbicara tentang kecerdasan buatan, kecerdasan, pembelajaran mesin, otonomi jika Anda tidak akan berbicara tentang etika dan AI,” ujar Hamilton.
(sya)
Lihat Juga :
tulis komentar anda