Belajar AI - Privasi, Data Governance & Compliance

#Pendahuluan

Setelah di episode 16 kalian mengamankan aplikasi AI dari sisi teknis — injection, jailbreak, guardrails — episode ini menutup sisi yang sering dianggap "urusan legal" padahal sangat teknis: privasi dan governance data. Sistem AI yang menangani data pribadi tunduk pada hukum nyata, dan pelanggarannya berujung pada denda, bukan sekadar PR.

Mengapa episode ini penting? Karena AI adalah pemroses data pribadi masal. Setiap chatbot yang menyimpan riwayat percakapan, setiap RAG yang mengindex dokumen karyawan, setiap model yang dilatih dari data pelanggan — semuanya memicu kewajiban hukum. Di 2026, dengan UU PDP aktif di Indonesia dan GDPR yang terus ditegakkan di Eropa, "saya hanya developer" tidak lagi menjadi alasan.

#Landasan Hukum: GDPR dan UU PDP

#GDPR (Uni Eropa)

GDPR (berlaku 2018) adalah standar emas perlindungan data dunia. Poin kunci yang berdampak langsung pada engineering:

• Lawful basis: setiap pemrosesan data pribadi harus punya dasar hukum (consent, contract, legitimate interest, dll).
• Data subject rights: orang bisa meminta akses, perbaikan, atau penghapusan data mereka (right to erasure).
• DPIA: sistem yang memproses data berisiko tinggi (termasuk profiling AI) wajib menjalani Data Protection Impact Assessment.
• Sanksi: hingga 4% omzet global atau 20 juta euro.

#UU PDP (Indonesia)

UU Perlindungan Data Pribadi (UU 27/2022, berlaku penuh 2024-2026) membawa prinsip serupa ke Indonesia: consent, tujuan pemrosesan, hak subjek data (termasuk penghapusan), dan kewajiban pelaporan pelanggaran data. Bagi perusahaan Indonesia yang mengembangkan AI, ini bukan lagi "standar Eropa" — ini kewajiban lokal.

#Prinsip Kunci yang Berlaku di Keduanya

• Lawful & transparent: jelaskan untuk apa data dipakai.
• Purpose limitation: data dipakai hanya untuk tujuan yang disetujui.
• Data minimization: ambil sesedikit mungkin, tidak lebih.
• Accuracy & storage limitation: data benar, dan tidak disimpan lebih lama dari perlu.
• Integrity & confidentiality: data diamankan.

#Data Minimization dan Consent dalam Praktik AI

#Data Minimization

Prinsip yang paling sering dilanggar developer AI: "kumpulkan saja dulu, nanti berguna". Untuk aplikasi AI, praktiknya:

• Jangan simpan riwayat chat yang tidak perlu: simpan hanya untuk sesi aktif; tawarkan kebijakan retensi yang jelas.
• Jangan log payload penuh: log ringkasan, bukan seluruh input pengguna (yang bisa berisi data pribadi).
• Anonimkan sebelum analisis: hapus identifier saat data dipakai untuk pelatihan atau analitik.
• Minimalkan data RAG: index hanya dokumen yang benar-benar dibutuhkan untuk tugas, bukan semua data perusahaan.

#Consent

Memakai data pengguna untuk AI membutuhkan consent yang jelas dan spesifik:

"Kami memproses percakapan Anda untuk memberikan jawaban asisten.
Data disimpan selama 30 hari dan dapat dihapus kapan saja.
[Setuju] [Tolak]"

Perhatikan: consent harus opt-in (bukan kotak yang sudah tercentang), terpisah dari persetujuan lain, dan mudah dicabut. Dalam konteks pelatihan model, consent khusus diperlukan — "setuju dengan syarat layanan" belum tentu cukup untuk memakai data sebagai data training.

#Anonymization dan Pseudonymization

• Anonymization: menghilangkan identifier secara permanen sehingga orang tidak bisa diidentifikasi kembali. Setelah dianonimkan, data biasanya tidak lagi dianggap data pribadi.
• Pseudonymization: mengganti identifier dengan kode (misal user-3821), tetapi bisa dihubungkan kembali lewat kunci terpisah. Data tetap data pribadi, tetapi risiko lebih rendah.

import hashlib
 
def pseudonymize(email: str, salt: str) -> str:
    return hashlib.sha256(f"{salt}:{email}".encode()).hexdigest()[:16]
 
# ganti email asli dengan hash di semua log/analisis
print(pseudonymize("rina@example.com", "static-salt"))

Kombinasi pseudonymization + pembatasan akses adalah praktik standar untuk data yang tetap perlu dianalisis.

#On-Prem / Self-Host untuk Data Sensitif

Keputusan arsitektur paling berdampak: apakah data sensitif boleh dikirim ke API pihak ketiga? Untuk data medis, data karyawan, atau data klien yang diatur kontrak, jawabannya sering tidak.

Pola yang umum di 2026 untuk tetap mendapat manfaat AI tanpa mengirim data keluar:

• Self-host open-weight LLM: Ollama/vLLM menjalankan Llama, Qwen, Gemma di infrastruktur sendiri (pola yang kita kenal di episode 7).
• Hybrid routing: pertanyaan umum → API eksternal; pertanyaan menyentuh data sensitif → model self-host (routing dibahas di episode 19).
• Edge/on-prem vector DB: index RAG disimpan di lokasi yang sama dengan data.

ollama run qwen3:8b

Konsekuensinya: model self-host kualitasnya mungkin di bawah model closed terbaik — tapi untuk data yang tidak boleh keluar, itu trade-off yang wajar. Episode 19 membahas keseimbangan biaya ini lebih jauh.

#Audit Trail dan Accountability

"Kapan sistem memutuskan ini, atas data apa?" — pertanyaan yang harus bisa dijawab sistem produksi. Audit trail untuk AI berarti:

1. Log keputusan: prompt, konteks yang di-retrieve, model & versi, dan output.
2. Log aksi agent: tool yang dipanggil, argumen, hasil (episode 15).
3. Log akses data: siapa/mekanisme apa yang membaca dokumen mana.
4. Traceability model: versi model + data training yang menghasilkan keputusan (reproduksibilitas episode 11).

Ini bukan sekadar logging biasa — ini menyangkut pembuktian. Saat regulator atau pengguna meminta pertanggungjawaban ("kenapa saya ditolak kredit?"), audit trail adalah satu-satunya cara menjawab dengan bukti, bukan kata-kata.

#Common Pitfalls

• Logging payload penuh chat: menyimpan data pribadi tanpa perlu — langsung melanggar minimization.
• Memakai data produksi untuk training tanpa consent: biasanya melanggar syarat privasi.
• Retensi data tanpa batas: storage limitation dilanggar; tetapkan dan tegakkan masa simpan.
• Mengirim data sensitif ke API pihak ketiga: tanpa klasifikasi data, keputusan arsitektur salah sejak awal.
• Tanpa audit trail: tidak bisa membuktikan apa pun saat ditanya.

#Penutup

Inti yang harus dibawa pulang:

• GDPR & UU PDP memaksa prinsip yang sama: lawful basis, data minimization, consent, dan hak subjek data.
• Data minimization adalah prinsip engineering: simpan sesedikit mungkin, jangan log payload penuh.
• Anonymization/pseudonymization menurunkan risiko sebelum analisis.
• Data sensitif → self-host model & vector DB; hybrid routing memadukan kualitas dan kepatuhan.
• Audit trail adalah bukti akuntabilitas: log keputusan, aksi, akses data, dan versi model.

Di episode 18 selanjutnya kita masuk dunia operasional: MLOps & Deployment — model registry, CI/CD untuk ML, monitoring drift, observability GenAI dengan OpenTelemetry, serta serving model dengan vLLM, TorchServe, container, dan serverless. Sampai jumpa di episode 18!