Belajar MLOps - Model Governance & Compliance

#Pendahuluan

Setelah di episode 14 feature store menghilangkan skew antara training dan serving, ada satu pertanyaan yang mulai diajukan — bukan oleh engineer, melainkan oleh regulator, auditor, dan manajemen: bisakah model ini dipertanggungjawabkan?

Mengapa governance penting? Karena begitu model menyentuh keputusan nyata — kredit, kesehatan, rekrutmen — ia bukan lagi sekadar hasil riset. Ia menjadi produk yang diatur hukum. Di Eropa, EU AI Act mulai berlaku bertahap sejak 2025; di tempat lain regulasi serupa tumbuh dari GDPR dan tuntutan akuntabilitas publik. Model yang tidak terdokumentasi, tidak bisa dijelaskan, dan tidak bisa diaudit adalah risiko hukum dan bisnis yang tidak bisa ditaksir.

Episode ini membahas bagaimana mengoperasionalkan governance: model cards, explainability, audit trail, dan kepatuhan regulasi — tanpa menjadikannya beban birokrasi yang menghentikan inovasi.

#Apa Itu Model Governance

Model governance adalah kumpulan proses, kebijakan, dan artefak yang memastikan model ML dapat dijelaskan, dilacak, dan dipertanggungjawabkan sepanjang hidupnya. Empat pilar utamanya:

• Dokumentasi — siapa membuat model, dengan data apa, untuk tujuan apa.
• Explainability — kenapa model memutuskan sesuatu.
• Auditability — setiap keputusan bisa ditelusuri kembali ke asalnya.
• Compliance — kepatuhan terhadap hukum dan kebijakan internal.

Governance bukan pekerjaan tambahan — ia adalah syarat untuk menaikkan skala model dengan aman. Tanpa governance, setiap audit atau penyelidikan berakhir kacau; dengan governance, pertanyaan "model ini memakai data apa?" bisa dijawab dalam hitungan menit, bukan minggu.

#Model Cards: Kartu Kesehatan Model

Model card adalah dokumen standar yang mendeskripsikan model secara transparan — dipopulerkan oleh riset Google (Mitchell et al., 2019). Model card menjawab pertanyaan yang biasanya tidak terdokumentasi: apa yang model bisa dan tidak bisa lakukan, siapa audiens yang tepat, dan apa potensi risikonya.

Struktur inti sebuah model card:

Kuncinya: model card bukan dokumen sekali tulis. Ia berevolusi bersama model — setiap versi baru model mendapat model card baru, sebaiknya dihasilkan otomatis di pipeline.

#Explainability: Kenapa Model Memutuskan Begitu?

#Global vs Local Explainability

Explainability terbagi dua level:

• Global — bagaimana fitur memengaruhi prediksi secara keseluruhan (contoh: "jumlah transaksi adalah fitur paling berpengaruh").
• Local — kenapa satu prediksi spesifik bernilai begitu (contoh: "kenapa pelanggan X diprediksi churn tinggi?").

Alat paling umum untuk model tabular adalah SHAP. Ia menghitung kontribusi tiap fitur terhadap prediksi berbasis game theory, dan hasilnya konsisten secara matematis.

#Contoh SHAP untuk Prediksi Churn

import shap
 
explainer = shap.TreeExplainer(model)
shap_values = explainer.shap_values(X_sample)
 
# Waterfall plot untuk satu pelanggan
shap.plots.waterfall(explainer.expected_value, shap_values[0], X_sample[0])

Dari plot ini kalian bisa menunjukkan ke auditor bahwa keputusan "pelanggan ini berisiko churn" didorong oleh monthly_charges yang tinggi — bukan tebakan buta. Untuk model LLM, explainability lebih sulit dan sering digantikan oleh grounding (menautkan jawaban ke sumber) — akan kita bahas di episode 21.

#Audit Trail & Lineage

Audit berarti bisa menjawab: model ini dilatih dari apa, dengan kode apa, dan kapan dipromosikan? Inilah yang sudah kalian bangun di episode 5, 6, 11, dan 13 — sekarang dirajut menjadi satu cerita yang bisa diaudit.

Satu entri audit yang baik mencatat:

• Versi kode training (commit hash).
• Versi data (DVC hash atau dataset ID).
• Konfigurasi hyperparameter.
• Metrik evaluasi.
• Keputusan promosi (staging ke production) oleh siapa dan kapan.
• Model card versi terkait.

Dengan MLflow, banyak dari ini tercatat otomatis:

import mlflow
 
with mlflow.start_run():
    mlflow.log_param("dataset_version", "v2026-08-01-abc")
    mlflow.log_param("commit", "8f3d2a1")
    mlflow.log_param("training_days", 90)
    mlflow.log_metric("f1", 0.87)
    mlflow.log_artifact("model_card.md")

Prinsipnya: audit trail harus bisa mereproduksi keputusan — auditor harus bisa menelusuri dari keputusan produksi kembali ke kode dan data yang menghasilkannya.

#Regulasi: EU AI Act dan GDPR

EU AI Act mengklasifikasikan sistem AI ke empat tingkat risiko:

Dua kewajiban paling relevan di level high-risk bagi MLOps Engineer:

• Technical documentation — model card plus audit trail secara efektif memenuhinya.
• Human oversight — keputusan model harus bisa di-review manusia; monitoring (episode 12) dan gate promosi (episode 13) berperan di sini.

GDPR ikut bermain: hak atas penjelasan (right to explanation) atas keputusan otomatis berarti explainability bukan lagi opsional. Dan data pelatihan yang memuat data pribadi wajib mengikuti prinsip data minimization — mengarahkan kita ke privacy-preserving ML di episode 19.

#Praktik: Dokumentasi & Audit Model di Pipeline

Cara paling efektif membuat governance melekat adalah mengotomatiskan artefaknya di pipeline:

Model card dihasilkan dari template dan diisi otomatis dari data tracking:

---
model_name: churn-predictor
version: 2.4.0
owner: ml-team-core
trained_on: 2026-08-01
training_data: transactions_v3 + labels_prod_90d
metrics:
  accuracy: 0.89
  f1: 0.87
intended_use: "Skor churn pelanggan untuk campaign retention"
ethical_considerations: "Fitur umur & pendapatan dipantau untuk bias"
---
 
Ringkasan evaluasi: model v2.4.0 mengalahkan champion pada F1 sebesar 1,2 poin
pada data evaluasi yang sama dan lulus fairness check untuk kelompok usia.

Gate di pipeline memastikan tidak ada model tanpa dokumentasi yang bisa naik ke produksi.

#Common Pitfalls

• Model card ditulis sekali, tidak pernah diperbarui — artefak basi tidak berguna bagi auditor; jadikan bagian dari pipeline.
• Explainability hanya global — regulator sering menanyakan kasus spesifik; siapkan local explanation.
• Audit trail tanpa reproduktibilitas — log "akurasi 0.89" tanpa versi data dan kode tidak bisa diverifikasi.
• Menganggap semua model sama — model high-risk (kredit/kesehatan) wajib diperlakukan jauh lebih ketat daripada model internal.
• Governance menghambat inovasi — automasi artefak membuat governance murah; jangan jadikan proses manual.

#Penutup

Pada episode 15 ini, kalian telah menerapkan governance dan compliance.

Inti yang harus dibawa pulang:

• Governance = dokumentasi, explainability, auditability, compliance.
• Model card sebagai dokumen standar yang hidup bersama versi model.
• SHAP untuk explainability global dan lokal.
• Audit trail harus memungkinkan reproduksi: data + kode + keputusan promosi.
• EU AI Act memaknai praktik MLOps (logging, human oversight, dokumentasi) sebagai kewajiban hukum.

Di episode 16 selanjutnya kita akan membahas cloud ML platforms — AWS SageMaker, GCP Vertex AI, dan Azure ML — untuk menjalankan pipeline dan serving tanpa mengelola server sendiri. Sampai jumpa di episode 16!