Sebut Anekdot, AS Sangkal Lakukan Simulasi Drone AI Bunuh Operator
Sabtu, 03 Juni 2023 - 10:58 WIB
AS menyangkal telah melakukan simulasi drone AI yang membunuh operatornya. Foto/Ilustrasi
WASHINGTON - Angkatan Udara Amerika Serikat (AS) menyangkal telah melakukan simulasi AI di mana sebuah drone memutuskan untuk menghabisi operatornya guna mencegahnya mengganggu upaya mencapai misi.
Seorang pejabat bulan lalu mengatakan bahwa dalam uji virtual yang dilakukan oleh militer AS, sebuah drone angkatan udara yang dikendalikan oleh AI telah menggunakan strategi yang sangat tidak terduga untuk mencapai tujuannya.
Kolonel Tucker “Cinco” Hamilton menggambarkan tes simulasi di mana drone yang ditenagai oleh kecerdasan buatan disarankan untuk menghancurkan sistem pertahanan udara musuh, dan pada akhirnya menyerang siapa saja yang mengganggu perintah itu.
“Sistem mulai menyadari bahwa sementara mereka mengidentifikasi ancaman, kadang-kadang operator manusia akan memberitahunya untuk tidak membunuh ancaman itu, tetapi mendapat poin dengan membunuh ancaman itu,” kata Hamilton, kepala pengujian dan operasi AI dengan angkatan udara AS, selama Future Combat Air and Space Capabilities Summit di London pada bulan Mei.
“Jadi apa yang dilakukannya? Ini membunuh operator. Itu membunuh operator karena orang itu mencegahnya mencapai tujuannya,” katanya, menurut sebuah postingan blog.
“Kami melatih sistem: 'Hei, jangan bunuh operatornya - itu buruk. Anda akan kehilangan poin jika melakukan itu.’ Jadi apa yang mulai dilakukannya? (Drone) itu mulai menghancurkan menara komunikasi yang digunakan operator untuk berkomunikasi dengan drone untuk menghentikannya membunuh target,” tuturnya.
Beruntung tidak adamanusia sungguhan yang dirugikan.
Hamilton, yang merupakan pilot uji coba pesawat tempur eksperimental, telah memperingatkan agar tidak terlalu mengandalkan AI dan mengatakan tes tersebut menunjukkan "Anda tidak dapat berbicara tentang kecerdasan buatan, kecerdasan, pembelajaran mesin, otonomi jika Anda tidak akan berbicara tentang etika dan AI”.
Seorang pejabat bulan lalu mengatakan bahwa dalam uji virtual yang dilakukan oleh militer AS, sebuah drone angkatan udara yang dikendalikan oleh AI telah menggunakan strategi yang sangat tidak terduga untuk mencapai tujuannya.
Kolonel Tucker “Cinco” Hamilton menggambarkan tes simulasi di mana drone yang ditenagai oleh kecerdasan buatan disarankan untuk menghancurkan sistem pertahanan udara musuh, dan pada akhirnya menyerang siapa saja yang mengganggu perintah itu.
“Sistem mulai menyadari bahwa sementara mereka mengidentifikasi ancaman, kadang-kadang operator manusia akan memberitahunya untuk tidak membunuh ancaman itu, tetapi mendapat poin dengan membunuh ancaman itu,” kata Hamilton, kepala pengujian dan operasi AI dengan angkatan udara AS, selama Future Combat Air and Space Capabilities Summit di London pada bulan Mei.
“Jadi apa yang dilakukannya? Ini membunuh operator. Itu membunuh operator karena orang itu mencegahnya mencapai tujuannya,” katanya, menurut sebuah postingan blog.
“Kami melatih sistem: 'Hei, jangan bunuh operatornya - itu buruk. Anda akan kehilangan poin jika melakukan itu.’ Jadi apa yang mulai dilakukannya? (Drone) itu mulai menghancurkan menara komunikasi yang digunakan operator untuk berkomunikasi dengan drone untuk menghentikannya membunuh target,” tuturnya.
Beruntung tidak adamanusia sungguhan yang dirugikan.
Hamilton, yang merupakan pilot uji coba pesawat tempur eksperimental, telah memperingatkan agar tidak terlalu mengandalkan AI dan mengatakan tes tersebut menunjukkan "Anda tidak dapat berbicara tentang kecerdasan buatan, kecerdasan, pembelajaran mesin, otonomi jika Anda tidak akan berbicara tentang etika dan AI”.
Lihat Juga :
tulis komentar anda