Pentagon Kembangkan AI Pembunuh Tanpa Pengawasan Manusia

WASHINGTON - Departemen Perang AS terlibat perselisihan dengan pengembang kecerdasan buatan Anthropic mengenai pembatasan yang akan membatasi bagaimana militer dapat menggunakan sistem AI , termasuk untuk penargetan senjata otonom dan pengawasan domestik.

Perselisihan tersebut telah menghambat kontrak senilai hingga USD200 juta, karena para pejabat militer menolak apa yang mereka anggap sebagai batasan berlebihan yang diberlakukan oleh perusahaan yang berbasis di San Francisco tersebut terhadap penggunaan teknologinya, lapor Reuters, mengutip enam orang yang mengetahui masalah tersebut.

Anthropic telah menyampaikan kekhawatiran bahwa alat AI-nya dapat digunakan untuk melakukan operasi mematikan tanpa pengawasan manusia yang memadai atau untuk memata-matai warga Amerika. Itu diungkapkan sumber anonim kepada Reuters.

Namun, para pejabat Pentagon berpendapat bahwa sistem AI komersial harus dapat digunakan untuk tujuan militer terlepas dari kebijakan penggunaan internal perusahaan, selama mereka mematuhi hukum AS.



Perselisihan ini muncul di tengah dorongan yang lebih luas dari pemerintahan Trump untuk mengintegrasikan kecerdasan buatan secara cepat di seluruh angkatan bersenjata. Awal bulan ini, Departemen Perang menguraikan strategi baru yang bertujuan untuk mengubah militer AS menjadi kekuatan tempur yang "mengutamakan AI".

Pentagon percaya bahwa mereka harus mempertahankan kendali penuh atas bagaimana alat AI digunakan di medan perang dan dalam operasi intelijen, dengan Menteri Pertahanan Pete Hegseth berjanji untuk tidak menggunakan model yang "tidak memungkinkan Anda untuk berperang."

Seorang juru bicara Anthropic mengatakan bahwa AI perusahaan tersebut "digunakan secara luas untuk misi keamanan nasional oleh pemerintah AS" dan bahwa mereka tetap dalam "diskusi produktif dengan Departemen Perang tentang cara untuk melanjutkan pekerjaan itu." Pentagon belum berkomentar tentang perselisihan yang dilaporkan tersebut.

CEO Anthropic, Dario Amodei, telah berulang kali memperingatkan tentang bahaya penggunaan AI tanpa batasan, khususnya dalam pengawasan massal dan sistem senjata otonom sepenuhnya.

Dalam sebuah esai baru-baru ini, ia berpendapat bahwa AI harus mendukung pertahanan nasional "dalam segala hal kecuali yang akan membuat kita lebih mirip dengan musuh otokratis kita."

Konfrontasi ini menimbulkan risiko bagi Anthropic, yang telah berinvestasi besar-besaran dalam mendekati klien pemerintah dan keamanan nasional dan sedang mempersiapkan penawaran umum perdana (IPO) potensial.

Perusahaan ini adalah salah satu dari beberapa pengembang AI utama, bersama dengan OpenAI, Google, dan xAI milik Elon Musk, yang mendapatkan kontrak Pentagon tahun lalu.