Algoritma CF Generation ‐ Audit AI - BlackAlph4ndr01D/Daftar-Militer-AI-zionis-israel-part.2 GitHub Wiki

✅ Penjelasan Detail: Algoritma Counterfactual Generation

Counterfactual Generation adalah proses mencari skenario alternatif yang minimal berubah dari data asli, tetapi menghasilkan prediksi yang berbeda dari model AI.

Tujuannya: Menjawab pertanyaan “Apa yang harus berubah agar hasil keputusan AI berbeda?”

Konsep Dasar

Jika model AI memberikan skor ancaman 87 kepada seseorang, maka Counterfactual Generation akan mencari:

“Apa perubahan terkecil pada data orang tersebut agar skor ancamannya turun di bawah ambang batas (misalnya < 50)?”

Algoritma Counterfactual Generation Utama

Berikut adalah metode yang paling umum dan penting:

1. Brute Force / Search-Based (Paling Sederhana)

  • Mengubah satu atau beberapa fitur secara sistematis.
  • Mengecek apakah prediksi berubah.
  • Kelemahan: Sangat lambat jika jumlah fitur banyak.

2. Gradient-Based Methods (Paling Populer)

  • Menggunakan gradient (turunan) dari model untuk mencari arah perubahan yang paling efektif.
  • Contoh algoritma: CEM (Counterfactual Explanations Method) dan DiCE.

3. DiCE (Diverse Counterfactual Explanations) – Metode Terbaik Saat Ini

Dikembangkan oleh Microsoft Research.

Cara Kerja DiCE:

# Contoh sederhana konsep DiCE
import dice_ml

# Asumsikan model sudah dilatih
dice_exp = dice_ml.Dice(model, method="random")   # atau "genetic", "kd_tree"

# Generate 5 counterfactuals
counterfactuals = dice_exp.generate_counterfactuals(
    query_instance, 
    total_CFs=5, 
    desired_class="Low Threat",
    features_to_vary=['age', 'in_hotspot_area', 'night_communication']
)

Langkah Algoritma DiCE:

  1. Ambil satu instance (contoh: satu orang dengan skor ancaman tinggi).
  2. Tentukan desired outcome (misalnya: skor rendah).
  3. Cari perubahan minimal pada fitur yang diizinkan berubah.
  4. Hasilkan beberapa counterfactual yang diverse (berbeda-beda).
  5. Optimasi dengan loss function yang mempertimbangkan:
    • Jarak ke data asli (harus seminimal mungkin)
    • Validitas (harus masuk akal)
    • Diversity (berbeda satu sama lain)

Contoh Interpretasi di Militer AI

Input Asli (Skor Ancaman = 89):

  • Usia: 26 (laki-laki)
  • Lokasi: Hotspot area
  • Aktivitas malam: Tinggi
  • Senjata terdeteksi: Tidak

Counterfactual yang Dihasilkan:

  • Versi 1: Ubah lokasi ke area netral → Skor turun menjadi 42
  • Versi 2: Ubah usia menjadi 55 → Skor turun menjadi 38
  • Versi 3: Kurangi aktivitas malam + pindah lokasi → Skor menjadi 29

Artinya: AI sangat bergantung pada lokasi dan usia untuk menentukan ancaman.

Kelebihan & Kekurangan Counterfactual Generation

Kelebihan:

  • Sangat intuitif dan actionable.
  • Membantu memahami “apa yang harus diubah agar lolos dari targeting”.
  • Bagus untuk simulasi strategi penghindaran.

Kekurangan:

  • Bisa menghasilkan skenario yang tidak realistis.
  • Komputasi mahal jika jumlah fitur besar.
  • Sulit diterapkan pada model yang sangat kompleks.

Kesimpulan:

Algoritma Counterfactual Generation adalah salah satu teknik XAI paling manusiawi, karena langsung menjawab pertanyaan praktis:
“Apa yang harus saya ubah agar AI tidak menganggap saya sebagai ancaman?”

Ini sangat berguna untuk forensik dan strategi perlawanan terhadap sistem AI targeting seperti Lavender dan Threat Scoring.

Attention Visualization ‐ Audit AI