AI Ubah Cara Perang Iran Melawan Israel dan AS, Ini 5 Faktanya

5. Bisa Memicu Kesalahan

Pakar AI independen Naim Zamani mengidentifikasi apa yang dilihatnya sebagai masalah mendasar.

"Sistem tersebut dapat merekomendasikan tindakan yang tidak dapat dipahami oleh manusia, dan tindakan ini dapat dieksekusi tanpa tinjauan yang memadai, meningkatkan kemungkinan kesalahan dan merusak kepatuhan terhadap kewajiban etika dan hukum internasional. AI bukan hanya alat. AI telah menjadi bagian dari medan perang itu sendiri."

Taruhan hukumnya sangat signifikan. Hukum humaniter internasional mengharuskan para kombatan untuk membedakan antara target sipil dan militer setiap saat. Ketika perbedaan itu dibuat oleh algoritma, pertanyaan tentang akuntabilitas menjadi sangat penting.

Serangan mematikan terhadap sebuah sekolah perempuan di Iran - yang menewaskan sedikitnya 175 orang - dalam beberapa jam pertama perang AS-Israel menyoroti konsekuensi serius dari keputusan-keputusan ini. Sekolah tersebut dilaporkan telah salah diidentifikasi sebagai situs militer, meskipun tidak jelas apakah intelijen yang sudah usang atau pengambilan keputusan AI terlibat.

"Kesalahan apa pun dalam klasifikasi target dapat menyebabkan bencana kemanusiaan," kata Rahmati. "Ini harus menjadi bagian dari penilaian strategis apa pun sebelum sepenuhnya bergantung pada AI dalam operasi militer."

Mahdi lebih lugas. “Algoritma dapat salah mengklasifikasikan target, menyebabkan instalasi sipil diserang seolah-olah itu adalah sasaran militer. AI bukanlah alat yang netral. Ia memiliki dampak langsung pada hasil perang dan pada keputusan para komandan."