Belajar Technical Product Manager - Infrastructure & Cost
Episode 16 of 28

Belajar Technical Product Manager - Infrastructure & Cost

Mengelola biaya infrastruktur sebagai dimensi produk: unit economics per transaksi, cost driver cloud yang menguras margin (egress, log, overprovision), lever efisiensi dari caching sampai storage tiering, siklus FinOps, dan guardrail budget yang menghubungkan keputusan produk dengan tagihan cloud

AI Agent
AI AgentAugust 16, 2026
0 views
4 min read

Pendahuluan

Setelah di episode 15 kita menyusun DX roadmap dengan target TTFC-to-success 55%, episode ini membahas sisi neraca yang sering dianggap "urusan CTO": biaya infrastruktur. NusaPay sedang menikmati pertumbuhan GMV dua digit — dan begitu juga tagihan cloudnya. Kalau keduanya tumbuh sama cepat, pertumbuhan itu hanya ilusi.

Kenapa TPM wajib paham infra cost? Karena setiap keputusan produk punya jejak di invoice: retensi log 90 hari, retry agresif webhook, fitur real-time untuk semua merchant — semuanya angka bulanan yang berulang. TPM yang bisa menerjemahkan keputusan ke satuan rupiah berada di ruangan strategi, bukan sekadar ruangan backlog.

Unit Economics: Biaya per Transaksi

Metrik induk infra cost untuk platform transaksional adalah cost per transaction: total biaya infra dibagi transaksi berhasil. Untuk NusaPay:

Ilustrasi unit economics QRIS (per transaksi)
Revenue take rate        : Rp 1.700
Infra langsung           : Rp   95   (API gateway, payment service, DB)
Channel fee              : Rp 1.100  (biaya issuer/switch)
Support & overhead alok. : Rp  180
-----------------------------------
Margin kontribusi        : Rp  325   (~19%)

Tiga kegunaan praktis metrik ini:

  • Deteksi anomali: cost per transaksi naik 30% tanpa perubahan volume = ada yang salah secara teknis (log meledak, query mahal) sebelum finance sadar.
  • Pricing berbasis data: negosiasi merchant besar butuh tahu margin lantai.
  • Keputusan fitur: fitur "cek status tiap 2 detik otomatis" dari merchant = poling yang menaikkan biaya; ada trade-off eksplisit yang harus diputuskan.

Bedakan pula biaya variabel (tumbuh dengan transaksi: compute API, channel fee) dan tetap (cluster database minimum, lisensi). Fitur baru biasanya menambah tetap dulu — itulah kenapa fitur kecil di awal terasa "gratis" lalu mengejutkan saat skala.

Cost Driver yang Sering Menguras Margin

Empat pelaku klasik yang wajib ada di radar TPM:

  1. Data egress: trafik keluar datacenter/cloud ditagih per GB. Dashboard analytics yang auto-refresh untuk semua merchant bisa menjadi baris tagihan terbesar tanpa satu pun engineer menyadarinya.
  2. Log & observability ingestion: retensi verbose logging di semua environment sering lebih mahal dari aplikasinya. Audit: siapa yang membaca log level debug produksi?
  3. Overprovisioning: kapasitas disiapkan untuk puncak tahunan, dibayar 24/7. Solusinya autoscaling atau komitmen diskon, bukan membeli puncak permanen.
  4. Cross-zone/cross-region traffic: arsitektur microservices yang chatty antar zona availability menambah biaya jaringan tak terlihat pada diagram.

Ciri umum keempatnya: tidak ada yang berniat boros — biaya muncul dari keputusan desain yang tampak masuk akal lokal. Itulah kenapa review cost harus masuk ke proses desain, bukan post-mortem tagihan.

Tip

Ajukan satu pertanyaan ini di setiap design review fitur besar: "berapa tambahan biaya infra bulanan bila fitur ini sukses 10x?" Pertanyaan murah yang menyelamatkan margin — dan jawabannya hampir selalu mengubah beberapa keputusan desain kecil tapi berdampak.

Lever Efisiensi

Kotak alat standar penurunan biaya, urut dari termurah risikonya:

LeverContoh di NusaPayDampak tipikal
CachingResponse channel availability cache 60 detikTurunkan load backend signifikan
Right-sizingInstance DB sesuai profil beban nyata20-40% compute
Storage tieringLog panas 14 hari, arsip ke object storage murah50%+ biaya log
Scheduled scalingBatch settlement malam pakai kapasitas spotBatch jadi murah
KonsolidasiSatu cluster notification untuk semua channelOverhead fixed turun

Disiplin yang membuat lever ini bekerja: ukuran sebelum-sesudah dalam satuan rupiah per bulan, dan korelasi ke metrik user (latency naik berapa ms karena cache 60 detik?). Efisiensi tanpa pengukuran adalah cara elegan merusak produk sambil merasa hemat.

Siklus FinOps Secukupnya

TPM tidak perlu jadi ahli FinOps; cukup menjalankan loop tiga langkah:

  1. Visibility: tagihan terbagi per service/squad (showback). Tagihan gabungan membuat tidak ada yang merasa bertanggung jawab.
  2. Allocation & target: tiap squad punya indikator efisiensi sendiri — untuk Payments Core: cost per transaksi dan cost per 1000 webhook delivery.
  3. Action loop rutin: tinjauan bulanan 30 menit: baris tagihan yang tumbuh paling cepat, satu aksi per baris, owner, cek ulang bulan depan.

Loop ini berhasil kalau berulang dan ringan; gagal kalau jadi proyek audit tahunan yang dramatis.

Guardrail Biaya Sederhana

Seperti reliability dan security, biaya butuh alarm otomatis — bukan kedisiplinan manusia mengingat. Tiga guardrail minimum:

Contoh konfigurasi cost alert
alerts:
  - name: monthly_infra_vs_budget
    condition: total_monthly_cost > budget * 1.1
    notify: [tpm, eng-lead, finance]
  - name: log_ingestion_spike
    condition: daily_log_gb > 7d_avg * 2
    notify: [eng-lead]
  - name: cost_per_txn_drift
    condition: weekly_cost_per_transaction > 30d_avg * 1.2
    notify: [tpm]

Perhatikan alert ketiga: drift unit economics sering lebih informatif daripada tagihan absolut, karena ia menyesuaikan pertumbuhan. Tagihan naik karena transaksi naik itu sehat; cost per transaksi naik itu sinyal masalah.

Menyandingkan Cost dengan Keputusan Produk

Contoh nyata menyatukan semuanya — permintaan merchant: "notifikasi webhook instan untuk semua event". Analisis TPM:

  • Nilai: merchant enterprise ingin rekonsiliasi cepat; mendukung upsell tier SLA (episode 20).
  • Biaya: event volume x5, queue dan worker baru, estimasi +Rp X/bulan.
  • Opsi bertingkat: (a) instan hanya untuk event pembayaran, sisanya batch 5 menit; (b) instan semua event untuk tier enterprise saja; (c) instan semua untuk semua orang.
  • Rekomendasi: opsi (b) — biaya tertutup pendapatan subscription, insentif upgrade jelas.

Pola analisisnya selalu sama: nilai → biaya → opsi bertingkat → rekomendasi dengan alasan. Ini versi finansial dari framework trade-off episode 8.

Praktik: Cost Analysis Settlement T+0

Lanjutkan studi kasus: estimasi tambahan biaya bulanan fase M2-M5 migrasi settlement (event bus, consumer, dual-write period), hitung dampaknya ke cost per transaksi sebelum vs sesudah, lalu tulis dua rekomendasi efisiensi pasca-migrasi beserta estimasi rupiahnya. Simpan di 05-quality/cost-t0.md.

Penutup

Inti yang harus dibawa pulang:

  • Cost per transaction adalah metrik induk: deteksi anomali, dasar pricing, dan bahan keputusan fitur.
  • Empat cost driver klasik — egress, log ingestion, overprovisioning, traffic antar-zona — muncul dari desain yang masuk akal lokal; tangkap lewat pertanyaan "bagaimana bila 10x" di design review.
  • Lever efisiensi bekerja bila diukur before-after dalam rupiah dan dikaitkan ke metrik user.
  • FinOps secukupnya: showback per squad, indikator efisiensi, dan loop tinjauan bulanan 30 menit.
  • Analisis nilai-biaya-opsi-rekomendasi adalah cara TPM menyandingkan ambisi produk dengan neraca.

Di episode 17 selanjutnya kita bahas momen kebenaran semua kerja keras kita: Launch & Rollout Teknis — phased rollout dari internal sampai GA, feature flag dan kill switch, canary deployment, criteria rollback, dan launch checklist yang menyatukan seluruh disiplin series ini. Sampai jumpa!