Belajar Debezium (change data capture untuk database modern) dari dasar hingga production-grade: pre-requisites & setup environment, sejarah latar belakang & mengapa CDC, konsep dasar & arsitektur, instalasi & menyiapkan connector, snapshot streaming & offset management, payload format & schema evolution, filtering routing & topic design, monitoring handling failures & debugging, integrasi dengan konsumen & sink, schema registry & data contracts, security & data privacy, connector lifecycle & GitOps, distributed deployment & high availability, auditability & data observability, cross-region & hybrid topologies, performance & throughput, multi-database & multi-cluster CDC, custom SMT & connector extensions, change event handling patterns, operational readiness & runbooks, real-world use cases & patterns, ekosistem & tools, hingga future-proofing CDC skills dengan total 23 episode.
Sebelum menyentuh Debezium, kalian perlu menguasai konsep database relasional, transaction log, streaming data, dan Apache Kafka. Di episode ini kalian menyiapkan environment Docker, menjalankan Kafka dengan mode KRaft dan Kafka Connect, lalu memverifikasi runtime Debezium pertama.

Episode ini mengupas sejarah dan latar belakang lahirnya Debezium, dari evolusi batch ETL menuju change data capture, perjalanan Red Hat hingga Apache, serta perbandingan CDC dengan polling dan batch beserta use case nyata yang melatarbelakanginya.

Episode ini membedah arsitektur Debezium dari connector, Kafka Connect, hingga Kafka topics, bagaimana Debezium membaca log perubahan database, mekanisme offset, heartbeat, dan snapshot, serta hubungannya dengan schema registry dan format payload.

Episode ini memandu menjalankan Kafka Connect dan Debezium dengan Docker, mendaftarkan connector untuk MySQL, PostgreSQL, MongoDB, dan SQL Server, menyusun koneksi database beserta user privileges, lalu memverifikasi topic output dan pesan CDC pertama.

Episode ini membedah perbedaan snapshot awal versus streaming perubahan, cara offset disimpan dan dipulihkan saat restart, pengelolaan snapshot chunking dan initial data load, serta bagaimana Debezium menangani perubahan skema database.

Episode ini membedah anatomi event Debezium — before, after, source, op, dan ts_ms — lalu membandingkan format payload JSON, Avro, dan Protobuf, integrasi dengan schema registry untuk evolusi skema, serta best practice field mapping dan konversi skema.

Episode ini membahas pengaturan include dan exclude table maupun database, routing event ke topic berbeda, strategi penamaan topic dan partitioning, serta penggunaan transforms seperti RegexRouter dan Filter untuk logika routing kustom.

Episode ini membahas pemantauan connector, offset, dan lag, membaca log serta status connector dan error handling, menangani record parsing error, schema mismatch, dan database yang tidak tersedia, lalu membangun alert untuk kegagalan connector.

Episode ini membahas menghubungkan event CDC ke Kafka consumers dan stream processors, memanfaatkan Kafka Streams, ksqlDB, Flink, Spark, dan sink database, mengalirkan data ke data lake dan data warehouse, serta use case materialized views dan analytics.

Episode ini membahas membangun data contract untuk event schema, mengelola versioning schema dan compatibility rules, menangani schema evolution pada payload Debezium, serta memakai Avro dan Protobuf untuk validasi konsumen.
