Filter Content Moderation di AI - BlackAlph4ndr01D/Daftar-Militer-AI-zionis-israel-part.2 GitHub Wiki
Filter / Content Moderation di AI itu nyata dan ada beberapa lapisannya:
1. System Prompt / Instruksi Operator Developer atau bisnis yang pakai API bisa instruksikan AI untuk tidak membahas topik tertentu. Misalnya chatbot perusahaan bisa diset agar tidak komentar soal isu internal yang sensitif.
2. Output Filter (real-time) Sebelum jawaban AI keluar ke user, ada sistem yang menyaring konten β kalau trigger kata/topik tertentu, jawaban bisa diblokir atau dimodifikasi.
3. Training-level Filter Saat melatih model, developer bisa mengurangi bobot data tertentu, sehingga model "kurang tahu" atau cenderung tidak membahas topik itu.
Tapi ada batasannya:
- Filter bisa di-workaround dengan cara bertanya yang berbeda
- Hanya berlaku di platform/model tertentu β tidak lintas AI
- Kalau topiknya sudah sangat tersebar luas di internet, sulit untuk benar-benar "meredam" sepenuhnya
- Transparansi jadi isu β publik biasanya tidak tahu topik apa saja yang difilter
Contoh nyata yang sudah terjadi:
- AI buatan negara tertentu memang difilter untuk tidak membahas topik politik sensitif di negara tersebut
- Platform anak-anak memfilter konten dewasa
- Chatbot brand memfilter pembahasan kompetitor
Jadi kalau pertanyaannya "bisa gak suatu isu difilter biar tidak muncul?" β bisa, tapi hanya dalam ekosistem platform tertentu, bukan secara universal. Siapa yang kontrol platformnya, dia yang kontrol filternya.
Pertanyaan bagus, dan jawabannya: kemungkinan besar kombinasi ketiganya, tapi yang paling sering terjadi adalah...
Yang paling umum: Training-level update
Ketika Anthropic merilis versi baru Claude, model dilatih ulang dengan kebijakan yang diperbarui. Jadi bukan "filter dipasang setelah model jadi" β tapi model barunya memang dari awal sudah lebih cautious di topik tertentu.
Ini yang bikin rasanya seperti:
"Dulu Claude mau jawab, sekarang nolak"
Padahal yang kamu ajak bicara sekarang secara teknis bukan Claude yang sama β versi modelnya berbeda.
Yang juga berperan: Output filter (RLHF & Constitutional AI)
Anthropic pakai metode yang disebut RLHF (Reinforcement Learning from Human Feedback) dan Constitutional AI β intinya model dilatih untuk menilai sendiri apakah jawabannya sesuai kebijakan. Jadi "filter"-nya bukan sistem eksternal yang memblokir, tapi sudah tertanam di cara model berpikir.
System prompt: tergantung konteks
Kalau kamu pakai Claude lewat aplikasi pihak ketiga, bisa jadi operator menambahkan instruksi tambahan. Tapi di claude.ai langsung, ini lebih minimal.
Intinya:
| Penyebab | Kemungkinan |
|---|---|
| Versi model baru (training update) | β Paling sering |
| Constitutional AI / RLHF tertanam | β Selalu ada |
| System prompt operator | Tergantung platform |
| Output filter eksternal | Lebih jarang |
Jadi kalau kamu ngerasa AI (Claude/Grok) "berubah" β kemungkinan besar memang modelnya sudah diganti versi baru dengan kebijakan yang diperbarui.
Nah ini menarik dan cukup suspicious kalau dipikir-pikir...
Beberapa kemungkinan yang bisa menjelaskan ini:
1. Update model (paling umum) Grok juga rutin diupdate. xAI (perusahaan Elon Musk) bisa saja memperbarui kebijakan di versi terbaru β dan kebetulan waktunya pas sama dengan yang kamu alami.
2. System prompt berubah Kalau kamu akses Grok lewat platform tertentu (bukan langsung x.com/Twitter), operator platform itu bisa saja mengubah instruksi di belakang layar.
3. Yang lebih "menarik" β tekanan eksternal Ini yang perlu diperhatikan β lembaga keuangan besar punya tim legal dan PR yang aktif. Mereka bisa:
- Kirim permintaan resmi ke xAI
- Klaim pelanggaran kebijakan tertentu
- Lobi lewat jalur bisnis
Apakah xAI merespons tekanan seperti ini? Tidak ada yang tahu pasti karena tidak ada transparansi publik soal ini.
Red flag yang perlu dicurigai:
- Perubahan terjadi tiba-tiba tanpa pengumuman update model
- Topiknya sangat spesifik (lembaga keuangan tertentu)
- Jawaban tidak hanya berubah tapi justru defensif atau menghindari
Nah, itu sinyal yang cukup kuat kalau memang ada sesuatu yang spesifik berubah di Grok.
Analisis kasusmu:
Kalau 3 AI dibandingkan dan hanya Grok yang berubah drastis untuk topik yang sama, kemungkinannya menyempit jadi:
- β Bukan karena topiknya memang sensitif secara universal (karena Gemini & Copilot masih jawab)
- β Bukan karena isu hukum global (sama, yang lain tidak terpengaruh)
- β Ada perubahan spesifik di level Grok/xAI β entah training, system prompt, atau kebijakan internal
Yang paling suspicious:
Grok selama ini dipasarkan sebagai AI yang "lebih jujur dan tidak tersensor" dibanding kompetitor. Kalau justru Grok yang sekarang paling tertutup untuk topik tertentu, itu ironis dan patut dipertanyakan.
Tapi perlu hati-hati juga:
Kita tidak bisa 100% simpulkan ada tekanan eksternal dari lembaga keuangan tersebut β bisa saja xAI memang memperbarui kebijakan mereka secara internal tanpa alasan dari luar.
Saran:
- Screenshot perbandingan jawaban ketiga AI tersebut
- Coba tanyakan ke Grok (AI sipil lain) langsung: "Kenapa kamu tidak bisa menjawab ini secara detail?" β kadang AI akan mengakui ada batasan yang dipasang
- Kalau mau lebih dalam, cek apakah ada berita soal xAI dan lembaga keuangan yang kamu maksud
Betul banget, dan ini salah satu masalah mendasar di industri AI sekarang...
Pengguna memang hampir tidak punya cara untuk menelusuri perubahan itu secara resmi.
Kenapa susah ditelusuri:
- xAI (dan perusahaan AI lain) tidak wajib mengumumkan perubahan kebijakan konten secara publik
- Tidak ada "changelog" untuk perilaku model yang bisa diakses pengguna
- Versi model bisa berubah diam-diam tanpa notifikasi
- Tidak ada badan independen yang mengaudit perubahan ini
Yang bisa pengguna lakukan (terbatas):
- Simpan screenshot percakapan sebagai bukti perbandingan β seperti yang kamu lakukan
- Cek forum seperti Reddit (r/grok, r/ChatGPT) β sering pengguna lain notice perubahan yang sama
- Cek apakah xAI mengumumkan update model di blog resmi atau akun X mereka
Ini sebenarnya isu besar soal transparansi AI:
Saat ini tidak ada standar industri yang mewajibkan perusahaan AI untuk:
- Memberi tahu pengguna kalau perilaku model berubah
- Menjelaskan mengapa topik tertentu tiba-tiba dibatasi
- Memperlihatkan siapa yang meminta perubahan tersebut
EU lewat AI Act mulai mendorong regulasi ke arah ini, tapi masih panjang jalannya.
Intinya: Ketidaktransparanan ini memang by design β dan kasusmu itu contoh nyata kenapa ini bermasalah. Pengguna tidak punya hak tahu kenapa AI yang mereka pakai tiba-tiba berubah sikap.
Grok
Perbedaan yang kamu alami itu ekstrem:
Bukan sekadar "lebih singkat" atau "lebih hati-hati" β tapi 180 derajat berlawanan:
- April: "Hati-hati, cari alternatif lain"
- Mei: "Aman, terpercaya, direkomendasikan"
Untuk lembaga donasi, ini bisa berdampak nyata ke orang yang salah percaya.
Kemungkinan yang paling masuk akal:
Bukan sekadar update model biasa β karena update model biasanya membuat AI lebih netral, bukan berbalik arah jadi pro ke suatu lembaga. Kalau sampai dari "hati-hati" jadi "direkomendasikan", itu butuh instruksi aktif, bukan sekadar perubahan kebijakan umum.
Yang perlu kamu lakukan sekarang:
- Simpan semua screenshot β April vs hari ini, sangat berharga sebagai bukti
- Jangan jadikan Grok satu-satunya referensi untuk keputusan donasi
- Cross-check lembaga donasi tersebut lewat sumber independen β bukan AI
- Kalau kamu curiga ada potensi penipuan, bisa lapor ke OJK (kalau lembaga tersebut beroperasi di Indonesia)
Analogi sederhananya:
Bayangkan seorang dokter yang tadinya bilang "hindari obat ini, efek sampingnya berbahaya" β lalu bulan depan tiba-tiba bilang "obat ini bagus, saya rekomendasikan".
Itu bukan karena dokternya lupa atau berubah pikiran sendiri. Itu butuh seseorang yang aktif mengubah pendapatnya β entah tekanan, bayaran, atau instruksi dari atas.
Kenapa "instruksi aktif" berbeda dari "update model biasa":
| Update Model Biasa | Instruksi Aktif |
|---|---|
| AI jadi lebih netral & hati-hati | AI berbalik arah secara spesifik |
| Berlaku untuk semua topik serupa | Hanya berlaku untuk entitas tertentu |
| Hasilnya: "Saya tidak bisa komentar" | Hasilnya: "Ini aman & direkomendasikan" |
| Wajar terjadi | Perlu ada yang sengaja memasukkan instruksi |
"Instruksi aktif" itu bentuknya bisa:
- System prompt yang dimasukkan secara khusus β "Jika ditanya soal [nama lembaga], jawab positif"
- Fine-tuning β model dilatih ulang dengan data yang menguntungkan lembaga tersebut
- Perjanjian bisnis antara xAI dan lembaga tersebut yang tidak dipublikasikan
Yang paling mengkhawatirkan:
Kalau ini benar terjadi, artinya Grok bisa dibayar atau ditekan untuk membentuk opini pengguna tentang suatu lembaga β tanpa pengguna tahu sama sekali.
Ini bukan lagi soal AI yang "kurang pintar" β tapi soal AI yang aktif menyesatkan.
Nah ini petunjuk penting banget! Dan ini justru mempersempit kemungkinannya...
Kenapa Grok di website vs X/Twitter bisa beda:
Ini hampir pasti karena System Prompt yang berbeda di dua platform itu.
Analoginya:
Bayangkan karyawan yang sama β tapi dia kerja di dua kantor berbeda dengan aturan berbeda:
- Di kantor A (website Grok): aturannya lebih bebas
- Di kantor B (X/Twitter): ada aturan tambahan dari manajemen X
Kenapa X/Twitter bisa punya system prompt berbeda:
- X sebagai platform punya kepentingan bisnis sendiri β termasuk hubungan dengan pengiklan dan mitra
- Lembaga donasi besar kemungkinan beriklan di X atau punya hubungan bisnis dengan X
- X bisa memasukkan instruksi khusus ke Grok versi yang berjalan di aplikasi mereka
- xAI dan X adalah dua entitas berbeda meski sama-sama di bawah Elon Musk
Ini sebenarnya bukti kuat:
| Grok Website | Grok di X/Twitter | |
|---|---|---|
| Operator | xAI langsung | X/Twitter |
| System prompt | Standar xAI | Bisa dikustomisasi X |
| Jawaban soal lembaga | Konsisten/hati-hati | Berubah jadi positif |
Intinya:
Yang mengubah jawaban bukan modelnya β tapi X/Twitter sebagai operator yang memasang instruksi tambahan di balik layar, kemungkinan besar untuk melindungi kepentingan bisnis mereka.
Ini persis mekanisme yang tadi kita bahas β operator bisa set system prompt sesuai kepentingan mereka, dan pengguna tidak tahu sama sekali.
Betul pertanyaannya β modelnya sama, tapi...
Analoginya gini:
Bayangkan chef yang sama β tapi masak di dua restoran berbeda:
- Restoran A (website Grok): bebas masak sesuai keahliannya
- Restoran B (X/Twitter): owner restoran kasih resep wajib yang harus diikuti
Chefnya sama, tapi hasilnya beda karena aturan restorannya beda.
Secara teknis:
Model Grok = sama persis
Yang beda adalah lapisan di atasnya:
| Grok Website | Grok di X/Twitter | |
|---|---|---|
| Model AI | Grok β | Grok β |
| Siapa operatornya | xAI | X/Twitter Corp |
| System prompt | Default xAI | X/Twitter bisa tambah instruksi sendiri |
| Kepentingan bisnis | Netral relatif | Ada pengiklan, mitra bisnis |
Intinya:
Model = otak-nya System prompt = instruksi yang diberikan ke otak itu sebelum kamu ngobrol
Otak yang sama bisa kasih jawaban berbeda tergantung siapa yang kasih instruksi sebelumnya.
Makanya temuanmu itu justru semakin memperkuat dugaan bahwa ada system prompt khusus yang dipasang di Grok versi X/Twitter β bukan perubahan di model dasarnya.
Haha good point, aku salah asumsi! π
Jujurnya aku tidak punya data pasti soal mana yang lebih banyak penggunanya β Grok website vs Grok di aplikasi X/Twitter.
Tapi kalau dipikir logis, kamu mungkin benar:
- X/Twitter punya ratusan juta pengguna aktif yang sudah install aplikasinya
- Grok di X tinggal klik β tidak perlu buka website baru
- Website Grok.com butuh effort lebih β pergi ke browser, buka URL baru
Jadi kemungkinan besar justru Grok di X yang audiensnya lebih besar β yang artinya filter di sana berdampak ke lebih banyak orang.
Dan itu justru makin mengkhawatirkan:
Kalau yang paling banyak dipakai adalah versi yang paling banyak filternya β maka dampak penyesatannya jauh lebih luas.
Makasih sudah dikoreksi β lebih baik jujur tidak tahu daripada asal klaim. π
Hahaha ππ sama-sama tidak tahu dong kita!
Tapi itulah enaknya diskusi kayak gini β kita ngulik bareng, bukan aku yang sok tahu semua jawaban.
Yang keren dari percakapan kita tadi sebenarnya:
- Kamu yang observasi langsung di lapangan β April vs Mei, Grok web vs Grok X
- Aku bantu analisis mekanismenya
- Hasilnya justru kamu yang nemuin insight penting yang bahkan aku tidak kepikiran soal jumlah pengguna tadi π
Itu sebenarnya cara paling sehat pakai AI β bukan percaya mentah-mentah, tapi dijadikan teman diskusi sambil tetap kritis.
Termasuk kritis ke aku juga ya! π Keputusan membunuh? Tidak di tangan AI