Belajar UX Designer - Trust & Explainability (XAI)
Membangun kepercayaan lewat explainability: menjelaskan keputusan sistem berbasis AI, menerapkan transparansi di antarmuka, dan merancang UI XAI untuk fitur klasifikasi otomatis JagaKota.
#Pendahuluan
Setelah di episode 19 kita membangun fondasi privasi, sekarang kita menghadapi tantangan terbaru di 2026: sistem yang mengambil keputusan sendiri. JagaKota mulai memakai AI untuk mengklasifikasikan laporan — "foto ini kemungkinan sampah menumpuk" — dan mengarahkannya ke dinas terkait. Bagaimana pengguna (dan warga) tahu bahwa keputusan itu bisa dipercaya?
Inilah domain XAI (Explainable AI) dari sisi UX. Kepercayaan tidak lahir dari akurasi semata — ia lahir dari pemahaman. Sistem yang transparan soal keputusan dan keterbatasannya justru lebih dipercaya daripada yang tampak sempurna tapi tak bisa dijelaskan.
#Kapan Sistem Harus Menjelaskan?
Menurut prinsip Human-Centered Explainable AI (dari riset rekomendasi NN/g dan akademisi), penjelasan dibutuhkan saat keputusan:
- Berdampak besar — salah klasifikasi bisa mengirim laporan ke dinas yang salah.
- Melibatkan data pribadi — penjelasan soal mengapa data dipakai.
- Berpotensi mengejutkan — keputusan yang di luar ekspektasi wajib dijelaskan.
Sebaliknya, menjelaskan setiap langkah (misal "AI mengubah gambar menjadi tensor 224×224") justru menambah beban kognitif (episode 10) tanpa manfaat. Aturannya: jelaskan keputusan, bukan mekanisme.
#Empat Tingkat Penjelasan
Kalau tim kalian bingung "seberapa dalam harus menjelaskan", gunakan kerangka ini — semakin besar dampaknya, semakin dalam penjelasannya:
| Tingkat | Isi | Contoh |
|---|---|---|
| 1. Outcome | Apa hasil keputusannya? | "Diklasifikasikan: Sampah menumpuk" |
| 2. Why | Bukti pendukungnya apa? | "Foto menunjukkan tumpukan di trotoar" |
| 3. What-if | Apa yang berubah jika input beda? | "Ubah jadi Lampu Jalan → rute ke dinas lain" |
| 4. Process | Bagaimana sistem bekerja? | (jarang — hanya jika diminta) |
Laporan JagaKota yang otomatis klasifikasinya cukup di tingkat 2; keputusan yang memengaruhi privasi atau penegakan hukum bisa butuh hingga tingkat 3.
#Pola UI untuk Explainability
Empat pola yang bisa langsung diterapkan:
- Why/Because (sebab): tampilkan bukti yang mendasari keputusan. "Diklasifikasikan sebagai Sampah — foto menunjukkan tumpukan di atas trotoar."
- What If (alternatif): tunjukkan apa yang terjadi jika input berubah. "Ubah kategori menjadi Lampu Jalan."
- Confidence (tingkat keyakinan): tampilkan saat relevan, terutama jika rendah.
- Feedback loop (koreksi): pengguna bisa mengoreksi dan sistem belajar dari itu.
[ 📸 Foto laporan ]
Kategori terdeteksi otomatis:
Sampah menumpuk (tinggi)
Mengapa: foto menunjukkan tumpukan kantong di pinggir jalan.
Salah? [ Pilih kategori lain ]
[ Kirim Laporan ]#Transparansi: Menyebut Keterlibatan AI
Pengguna berhak tahu kapan mereka berhadapan dengan sistem otomatis. Ini momen "transparency" yang juga disinggung di episode 19 — bedanya, di sini yang diungkap adalah keagenan (siapa/apa yang memutuskan), bukan sekadar data.
- Label keterlibatan AI: "Diklasifikasikan secara otomatis" di dekat hasil.
- Batas kapasitas: "Klasifikasi otomatis dapat keliru untuk foto gelap atau buram."
- Eskalasi manusia: "Anda bisa meminta peninjauan petugas" — kehadiran manusia di ujungnya menenangkan.
Note
Kepercayaan tidak sama dengan kepatuhan. Sistem yang selalu disetujui pengguna bisa jadi sistem yang hanya "dianggap benar" — atau yang dipakai pengguna tanpa berpikir (automation bias). Tujuan explainability adalah pemahaman yang sehat, bukan penerimaan buta. Ukur: apakah pengguna bisa menyebut kapan sistem salah?
#Desain Ketidakpastian
Kesalahan terbesar perancang XAI adalah menyembunyikan ketidakpastian demi tampak pintar. Desain yang jujur menampilkan apa yang tidak diketahui:
- Ketika confidence rendah, tampilkan opsi "Tidak yakin — pilih manual".
- Ketika sistem gagal, beri tahu dan tawarkan fallback (bukan berpura-pura berhasil).
- Bedakan status terverifikasi manusia vs prediksi AI secara visual — hijau untuk "diverifikasi", kuning untuk "prediksi".
#Common Pitfalls
- Menjelaskan mekanisme, bukan keputusan — deret rumus tidak membangun kepercayaan.
- Penjelasan yang menyalahkan — "AI salah" tidak membantu; "foto terlalu gelap untuk dikenali, coba foto ulang" membantu.
- Tanpa jalur koreksi — penjelasan tanpa tindakan hanyalah teks.
- Menampilkan confidence selalu — angka 93% di setiap layar menumpulkan maknanya; tampilkan saat relevan.
#Penutup
Inti yang harus dibawa pulang:
- Jelaskan keputusan, bukan mekanisme; penjelasan dibutuhkan saat keputusan berdampak besar.
- Empat pola XAI: why/because, what-if, confidence, dan feedback loop.
- Transparansi mencakup menyebut keterlibatan AI dan batasnya, plus eskalasi manusia.
- Desain ketidakpastian dengan jujur — jangan menyembunyikan keraguan.
Di episode 21 selanjutnya kita akan membahas agentic UX dan GenUI — mendesain untuk AI agent dan antarmuka generatif — dan merancang pengalaman delegasi tugas untuk JagaKota. Sampai jumpa di episode 21!