Apa yang framework global bilang soal AI dalam konflik bersenjata

Intinya singkat: Hukum Humaniter Internasional (IHL) tetap berlaku penuh. Mesin tidak menggantikan tanggung jawab manusia. Aturan khusus yang mengikat untuk senjata otonom masih belum selesai — banyak prinsip, sedikit hukum keras.

---

1. Titik sepakat yang sudah ada

Hampir semua proses resmi (CCW GGE, UNGA, ICRC, deklarasi negara) mengulang:

Prinsip	Makna operasional
IHL berlaku penuh	Distinction, proportionality, precautions in attack tetap wajib — tidak peduli teknologinya AI atau bukan
Tanggung jawab pada manusia	Akuntabilitas tidak bisa dipindah ke mesin. Negara, pihak konflik, dan individu tetap bertanggung jawab
Human judgement / control	Keputusan soal penggunaan kekuatan harus tetap melibatkan penilaian manusia yang bermakna
Legal review senjata baru	Pasal 36 Protokol Tambahan I — negara wajib meninjau senjata/metode baru apakah bisa dipakai sesuai hukum
Larangan senjata yang inherent melanggar IHL	Senjata yang secara sifat tidak bisa membedakan atau menimbulkan penderitaan berlebih tetap terlarang

Ini bukan izin bebas untuk AI targeting. Ini batas minimum yang sudah diakui.

---

2. ICRC (posisi paling tegas di antara penjaga IHL)

ICRC mendesak aturan baru yang mengikat secara hukum, bukan hanya interpretasi IHL lama:

1. Larang sistem otonom yang tidak terduga (efeknya tidak bisa cukup dipahami, diprediksi, dijelaskan) — karena berisiko indiscriminate.
2. Larang sistem otonom yang dirancang/dipakai untuk menarget manusia secara langsung.
3. Atur ketat sistem otonom lain (jenis target, ruang geografis, durasi, skala, situasi).

ICRC juga memperingatkan tiga area berisiko tinggi:

• AI dalam autonomous weapon systems
• AI dalam pengambilan keputusan militer (decision support / targeting lists)
• AI dalam domain informasi / komunikasi

Pesan berulang (termasuk bersama Sekjen PBB): dunia mendekati garis merah moral — mesin yang menarget manusia secara otonom.

---

3. Proses PBB / CCW (GGE on LAWS)

Di bawah Convention on Certain Conventional Weapons:

• Lebih dari 10 tahun diskusi.
• Konsensus tipis: IHL berlaku; tanggung jawab manusia; perlu interaksi manusia–mesin yang memadai.
• Arah yang banyak didukung: pendekatan two-tier:
  • Tier 1: larang LAWS yang tidak bisa dipakai sesuai IHL (termasuk yang tak terduga / anti-personel otonom, menurut banyak negara & ICRC).
  • Tier 2: batasi dan syaratkan LAWS lainnya.
• Belum ada protokol mengikat. Sifat instrumen (legally binding vs politis) masih diperdebatkan.
• Resolusi UNGA soal LAWS & AI di domain militer mendapat dukungan mayoritas besar; beberapa negara menolak/abstain.

Jadi: prinsip ada, treaty belum.

---

4. Inisiatif “responsible military AI” (soft / politik)

Inisiatif	Sifat	Isi utama
REAIM (NL + Korea Selatan, dll.)	Summit & blueprint	AI militer harus bertanggung jawab; hormati hukum internasional
US Political Declaration on Responsible Military Use of AI and Autonomy	Voluntary antarnegara	Komitmen politik soal penggunaan bertanggung jawab
Paris Declaration (soal human control di senjata ber-AI)	Politik	Tekankan kontrol manusia

Ini bukan pengganti treaty. Berguna untuk norma, lemah untuk penegakan terhadap negara yang tidak ikut atau melanggar.

---

5. Framework etika AI sipil vs konflik bersenjata

UNESCO, OECD, EU AI Act, NIST:

• Fokus utama: AI sipil, high-risk di masyarakat, hak asasi di konteks non-perang.
• EU AI Act secara eksplisit banyak mengaitkan pengecualian / perlakuan khusus untuk keamanan nasional & militer (negara anggota tetap berdaulat di domain pertahanan).
• Prinsip “human oversight” & “accountability” bisa dipakai sebagai tolok ukur moral, tapi tidak secara otomatis mengatur targeting di medan perang.

Kesimpulan tajam: etika AI global jauh lebih maju di domain sipil daripada di domain kekerasan terorganisir negara.

---

6. Apa yang tidak dikatakan (celah)

Framework global tidak mengatakan:

• “AI decision-support (mis. daftar target) otomatis legal asalkan ada klik manusia 20 detik.”
• “Error rate 10% bisa diterima jika volume target naik.”
• “Cloud komersial untuk intel targeting di luar jangkauan etika.”

Mereka juga belum punya standar operasional seragam untuk:

• berapa lama review manusia dianggap “meaningful”;
• kapan sistem recommendation target melanggar precautions;
• bagaimana audit bias dataset di lingkungan pendudukan/perang asymmetric.

Praktik di lapangan (termasuk sistem targeting AI yang sudah diinvestigasi media) sering berada di zona abu-abu antara “masih ada manusia di loop” dan “manusia hanya stempel”.

---

7. Ringkas satu paragraf

Framework global bilang: IHL tetap mengikat; manusia tetap bertanggung jawab; kontrol/penilaian manusia harus dipertahankan; senjata yang tidak bisa mematuhi distinction/proportionality terlarang. ICRC dan banyak negara mendesak larangan + pembatasan mengikat untuk senjata otonom. Proses CCW/UNGA belum menghasilkan treaty. Etika AI sipil hampir tidak menjangkau AI militer secara efektif. Hasilnya: norma tinggi di atas kertas, penegakan lemah di medan — justru saat AI sudah mempercepat volume dan kecepatan kekerasan.

XAI Audit Protocol