Semua metode forensik audit AI adalah metode ilmiah yang sudah mapan, dipublikasikan di jurnal konferensi dan paper akademik terkemuka.

Berikut adalah sumber asli dari masing-masing metode:

Daftar Sumber Resmi

Metode	Nama Paper / Penulis	Tahun	Konferensi / Jurnal	Tingkat Kredibilitas
LIME	"Why Should I Trust You?": Explaining the Predictions of Any Classifier (Ribeiro et al.)	2016	KDD (ACM)	Sangat Tinggi
SHAP	A Unified Approach to Interpreting Model Predictions (Lundberg & Lee)	2017	NeurIPS	Sangat Tinggi (paling dihormati)
Integrated Gradients	Axiomatic Attribution for Deep Networks (Sundararajan et al.)	2017	ICML	Tinggi
Attention Mechanism	Attention Is All You Need (Vaswani et al.)	2017	NeurIPS	Sangat Tinggi (mendasari Transformer)
Counterfactual Explanations	Counterfactual Explanations without Opening the Black Box (Wachter et al.)	2017	Harvard Journal of Law & Technology	Tinggi
DiCE (Counterfactual)	Diverse Counterfactual Explanations for Machine Learning Models (Mothilal et al.)	2020	FAT* / ACM	Tinggi

Catatan Penting:

• Semua metode di atas adalah standard tools di bidang Explainable AI (XAI).
• Mereka sudah banyak digunakan di akademisi, industri, dan penelitian forensik AI.
• SHAP dan LIME adalah dua metode paling populer untuk audit bias dan interpretasi model.
• Integrated Gradients dan Attention Mechanism sangat relevan untuk model berbasis Deep Learning (seperti yang digunakan di drone SITS Israel).
• Counterfactual Explanations banyak digunakan untuk memahami “apa yang harus diubah agar keputusan AI berbeda”.

Semua penjelasan saya mengenai metode-metode ini berasal dari paper-paper ilmiah di atas, bukan kreasi atau spekulasi saya sendiri.

---

✅ Daftar Pustaka Lengkap (References)

Berikut adalah daftar pustaka resmi dan link asli untuk metode Explainable AI yang telah kita bahas:

Daftar Pustaka Utama

1. LIME
   Ribeiro, M. T., Singh, S., & Guestrin, C. (2016).
   "Why Should I Trust You?": Explaining the Predictions of Any Classifier.
   Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining (KDD).
   Link: https://arxiv.org/abs/1602.04938

2. SHAP
   Lundberg, S. M., & Lee, S. I. (2017).
   A Unified Approach to Interpreting Model Predictions.
   Advances in Neural Information Processing Systems (NeurIPS).
   Link: https://arxiv.org/abs/1705.07874

3. Integrated Gradients
   Sundararajan, M., Taly, A., & Yan, Q. (2017).
   Axiomatic Attribution for Deep Networks.
   Proceedings of the 34th International Conference on Machine Learning (ICML).
   Link: https://arxiv.org/abs/1703.01365

4. Attention Mechanism
   Vaswani, A., Shazeer, N., Parmar, N., et al. (2017).
   Attention Is All You Need.
   Advances in Neural Information Processing Systems (NeurIPS).
   Link: https://arxiv.org/abs/1706.03762

5. Counterfactual Explanations
   Wachter, S., Mittelstadt, B., & Russell, C. (2017).
   Counterfactual Explanations without Opening the Black Box: Automated Decisions and the GDPR.
   Harvard Journal of Law & Technology.
   Link: https://arxiv.org/abs/1711.00399

6. DiCE (Diverse Counterfactual Explanations)
   Mothilal, R. K., Sharma, A., & Tan, C. (2020).
   Explaining Machine Learning Classifiers through Diverse Counterfactual Explanations.
   Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (FAT*).
   Link: https://arxiv.org/abs/1905.07697

---

Catatan Tambahan:

• Semua link di atas mengarah ke arxiv.org (versi preprint yang gratis dan resmi).
• Paper-paper ini adalah referensi standar di bidang Explainable AI dan sudah banyak dikutip di ribuan penelitian.

---

Ya, secara teknis protokol dan metode audit AI militer sudah ada.

Tapi secara praktis dan politik, hampir tidak diberlakukan.

Mengapa Protokol Sudah Ada Tapi Tidak Digunakan?

Berikut penjelasan tajam tanpa basa-basi:

1. Tools Teknis Sudah Matang
   Metode seperti SHAP, LIME, Integrated Gradients, Counterfactual Explanations, dan teknik forensik lainnya sudah tersedia sejak 2016–2020. Banyak peneliti independen dan akademisi bisa menggunakannya untuk mengaudit sistem seperti Lavender, Gospel, atau Threat Scoring.

2. Masalah Utama: Tidak Ada Kehendak Politik

   • Negara-negara yang mengembangkan AI militer (Israel, AS, China, Rusia) sengaja tidak mau ada regulasi ketat yang mengikat.
   • Mereka memperlambat atau memblokir pembahasan di forum internasional (seperti CCW di PBB) karena regulasi akan membatasi keunggulan teknologi mereka.
   • Israel khususnya sangat agresif menggunakan celah ini untuk terus mengembangkan dan mendeploy sistem Human on the Loop.

3. Celah Hukum yang Disengaja

   • Hukum Humaniter Internasional (Geneva Conventions) belum di-update secara memadai untuk era AI.
   • Konsep Command Responsibility masih didasarkan pada era manusia, bukan mesin.
   • Tidak ada definisi hukum yang jelas tentang "tingkat otonomi" yang diperbolehkan.

4. Realitas Kekuasaan

   • Negara kuat jarang mau mengikat diri dengan aturan yang merugikan kepentingan militernya.
   • Selama tidak ada tekanan politik dan ekonomi yang sangat besar (misalnya boikot massal atau ancaman sanksi), mereka akan terus memanfaatkan kekosongan hukum ini.

5. Dampak Nyata

   • Israel bisa terus menggunakan sistem AI yang bias dan mematikan di Gaza dengan risiko hukum yang relatif rendah.
   • Aktivis dan korban sulit membawa bukti ke pengadilan internasional karena tidak ada standar audit yang diakui secara global.

Kesimpulan Pahit:

Protokol teknis untuk audit AI militer sudah ada, tapi tidak diberlakukan karena:

• Kepentingan strategis negara-negara kuat.
• Kurangnya political will untuk mengikat diri dengan regulasi.
• Celah hukum yang sengaja dipertahankan.

Ini adalah contoh klasik di mana teknologi berlari lebih cepat daripada hukum, dan negara-negara pelaku justru memanfaatkan keterlambatan itu untuk keuntungan mereka.

Jadi, meskipun alat forensiknya sudah ada, penegakan hukumnya masih sangat lemah — terutama terhadap negara seperti Israel yang memiliki dukungan politik kuat dari Barat.

---

Explainable AI