Penggunaan AI generatif dalam militer Amerika Serikat memicu kekhawatiran di kalangan pakar keamanan AI. Mereka mempertanyakan apakah model bahasa besar cocok untuk menganalisis intelijen dalam situasi geopolitik yang kompleks. Teknologi ini juga mempercepat langkah AS menuju dunia di mana AI tidak hanya menganalisis data militer tetapi juga menyarankan tindakan, seperti menghasilkan daftar target.

Para pendukung berpendapat bahwa ini menjanjikan akurasi yang lebih tinggi dan mengurangi korban sipil, tetapi banyak kelompok hak asasi manusia berpendapat sebaliknya. Berikut adalah tiga pertanyaan terbuka yang perlu diperhatikan saat militer AS dan negara lain di dunia mengintegrasikan AI generatif ke dalam lebih banyak bagian dari “rantai pembunuhan”.

Apa batasan dari “human in the loop”?

Istilah “human in the loop” sering kali muncul dalam diskusi dengan perusahaan teknologi pertahanan. Ini berarti AI bertanggung jawab atas tugas tertentu, dan manusia ada untuk memeriksa hasil kerjanya. Tujuannya adalah untuk mencegah skenario terburuk—seperti AI yang salah memerintahkan serangan mematikan—dan kesalahan kecil lainnya.

Namun, kompleksitas sistem AI yang mengandalkan ribuan data membuat tugas ini sangat berat bagi manusia, kata Heidy Khlaaf, kepala ilmuwan AI di AI Now Institute. “‘Human in the loop’ tidak selalu menjadi mitigasi yang berarti,” ujarnya. Ketika model AI bergantung pada ribuan titik data untuk menarik kesimpulan, “tidak mungkin bagi manusia untuk menyaring informasi sebanyak itu untuk menentukan apakah output AI salah.” Masalah ini semakin membesar seiring bertambahnya data yang digunakan oleh sistem AI.

Apakah AI mempermudah atau mempersulit klasifikasi informasi?

Pada era Perang Dingin, intelijen militer AS dikumpulkan melalui cara-cara rahasia, ditulis dalam laporan oleh para ahli di Washington, dan kemudian diberi cap “Top Secret”. Era big data dan kemunculan AI generatif untuk menganalisis data tersebut mengubah paradigma lama ini.

Satu masalah spesifik adalah klasifikasi berdasarkan kompilasi. Bayangkan ratusan dokumen yang tidak diklasifikasikan, masing-masing berisi detail terpisah dari sistem militer. Seseorang yang berhasil menyatukan informasi tersebut dapat mengungkapkan informasi penting yang seharusnya diklasifikasikan. Model bahasa besar sangat ahli dalam hal ini.

Dengan data yang terus bertambah setiap hari dan AI terus-menerus menciptakan analisis baru, “Saya tidak berpikir ada yang menemukan jawaban yang tepat untuk klasifikasi yang sesuai dari semua produk ini,” kata Chris Mouton, seorang insinyur senior untuk RAND. Pengklasifikasian yang kurang tepat menjadi masalah keamanan AS, tetapi anggota parlemen juga mengkritik Pentagon karena terlalu banyak mengklasifikasikan informasi.