Belajar ChromaDB - Sejarah, Latar Belakang & Mengapa Membutuhkan ChromaDB

#Pendahuluan

Episode 0 sudah memastikan environment kalian siap. Sekarang saatnya memahami mengapa ChromaDB ada. Episode 1 ini menjawab tiga pertanyaan besar: dari mana ChromaDB berasal, masalah apa yang dia pecahkan, dan mengapa kalian — sebagai engineer yang ingin membangun RAG — membutuhkannya.

Banyak orang mulai memakai ChromaDB karena tutorial, padahal memahami latar belakangnya jauh lebih berharga. Dengan tahu masalah yang diselesaikan, kalian akan lebih mudah memutuskan kapan memakai ChromaDB, kapan tidak, dan bagaimana memposisikannya dalam arsitektur aplikasi. Mari kita mulai dari awal cerita.

#Sejarah ChromaDB

#Lahir sebagai Search Infrastructure for AI

ChromaDB dibangun oleh perusahaan Chroma, diprakarsai oleh Jeff Huber sekitar tahun 2022. Visinya sejak awal bukan sekadar membuat "database vektor", melainkan membangun search infrastructure for AI — infrastruktur pencarian yang dirancang khusus untuk kebutuhan aplikasi AI, di mana yang dicari bukan string yang sama persis, melainkan makna yang paling dekat.

Pada tahun 2023 ChromaDB mulai beredar dengan versi 0.x, dan dengan cepat menarik perhatian komunitas karena tiga hal: sangat mudah dipakai (hanya satu baris untuk mulai), berjalan lokal tanpa server, dan terintegrasi mulus dengan framework LLM yang sedang naik daun seperti LangChain dan LlamaIndex.

#Evolusi ke Versi 1.x dengan Server Rust

Perjalanan ChromaDB memasuki babak besar di tahun 2025-2026 dengan rilis versi 1.x. Perubahan paling fundamental adalah pengenalan server Rust untuk produksi, menggantikan server Python FastAPI yang dipakai di era sebelumnya. Tabel berikut merangkum perjalanannya:

Keputusan memakai server Rust bukan tanpa alasan: performa yang lebih deterministik, footprint memori lebih kecil, dan keamanan yang lebih ketat. Kita akan membedah perbedaan kedua server ini secara mendalam di episode 2.

#Adopsi yang Masif

Berkat kemudahan dan ekosistemnya, ChromaDB menjadi salah satu vector database open-source paling banyak dipakai. Per 2026, paket chromadb di PyPI mencatat sekitar 13 juta download per bulan. Ini bukan sekadar angka pamer — ini berarti komunitas besar, dokumentasi melimpah, dan rilis yang terjaga. Di GitHub, repository chroma-core/chroma mencatat lebih dari 28.900 stars.

pip show chromadb | grep -i version

Perintah pip show chromadb | grep -i version menampilkan versi yang terpasang. Cek rutin seperti ini penting karena ChromaDB rilis mingguan setiap Senin — selalu ada hal baru untuk dievaluasi.

#Masalah yang Diselesaikan ChromaDB

#Penyimpanan Embedding Skala Jutaan

Sebelum vector database matang, tim yang membangun semantic search harus membangun semuanya sendiri: menyimpan vektor, menghitung similarity, dan melakukan pencarian tetangga terdekat. Ini sulit. ChromaDB mengabstraksi semua itu: kalian cukup menambahkan dokumen dan query, urusan index dan ANN diurus di belakang layar.

Bayangkan korpus dengan satu juta dokumen. Pencarian linear — membandingkan query dengan setiap dokumen — bisa memakan waktu lama. ChromaDB memakai HNSW (Hierarchical Navigable Small World) untuk mempercepat pencarian ini menjadi milidetik. Detail HNSW dan trade-off-nya akan kita bedah di episode 9.

#Semantic dan Full-Text Search dalam Satu Engine

Masalah kedua yang dipecahkan adalah jenis pencarian. Aplikasi AI butuh lebih dari sekadar keyword match:

• Semantic search: mencari berdasarkan makna, cocok untuk pertanyaan yang tidak persis sama dengan teks sumber.
• Full-text search: mencari kata yang persis, penting untuk nama produk, kode, atau istilah teknis.
• Regex dan metadata filtering: mempersempit hasil berdasarkan atribut seperti tanggal, kategori, atau sumber.

ChromaDB menggabungkan semua ini dalam satu engine. Nanti di episode 8 kita akan melihat bagaimana hybrid search — menggabungkan vector dan keyword — menghasilkan retrieval yang jauh lebih akurat untuk RAG.

#Integrasi Cepat dengan Framework LLM

Masalah ketiga: saat RAG mulai populer, tim harus menghubungkan vector database dengan pipeline LLM yang sudah ada. ChromaDB menjawab dengan menyediakan adapter resmi untuk LangChain dan LlamaIndex, sehingga kalian bisa menjadikan ChromaDB sebagai retriever dalam beberapa baris kode:

Chroma sebagai retriever

from langchain_chroma import Chroma
 
retriever = Chroma(
    collection_name="dokumen",
    persist_directory="./chroma-data",
).as_retriever()
 
hasil = retriever.invoke("Apa itu RAG?")

Kode di atas akan kita pelajari penuh di episode 18. Untuk sekarang, cukup pahami bahwa Chroma(...).as_retriever() mengubah ChromaDB menjadi komponen retrieval yang siap dipakai dalam pipeline LLM.

#Mengapa Kalian Membutuhkan ChromaDB

Mari kita rangkum dalam konteks kerja nyata. Kalian membutuhkan ChromaDB jika:

• Membangun RAG: butuh menyimpan dokumen dalam bentuk embedding dan mengambil konteks paling relevan untuk prompt LLM.
• Membangun semantic search: ingin pengguna mencari dengan bahasa alami dan mendapat hasil berdasarkan makna.
• Membangun agent memory: agen AI butuh mengingat interaksi sebelumnya dalam bentuk yang bisa di-query secara semantik.
• Membutuhkan speed-to-market: ingin vector database yang bisa jalan dalam hitungan menit, tanpa mengelola infrastruktur rumit.

Sebaliknya, jika kalian butuh skala enterprise masif dengan multi-node, kuota tenancy yang rumit, atau transaksi ACID ketat, pertimbangkan alternatif seperti Qdrant, Milvus, atau Weaviate — perbandingan lengkap akan kita bahas di episode 22.

#Posisi ChromaDB dalam Stack AI

Untuk memahami peran ChromaDB, lihat bagaimana ia duduk di dalam tumpukan teknologi aplikasi AI:

aplikasi (RAG, chatbot, agent)
  └── framework LLM (LangChain, LlamaIndex)
        └── ChromaDB (retrieval & memory)
              └── model embedding (MiniLM, OpenAI)

Lapisan ChromaDB berada tepat di bawah framework LLM — ia menyediakan retrieval dan memori jangka panjang yang dibutuhkan agen AI. Model embedding menghasilkan vektor, ChromaDB menyimpannya dan mencarinya, framework merangkai semuanya menjadi pipeline, dan aplikasi melayani pengguna. Memahami posisi ini membantu kalian menempatkan ChromaDB dengan benar saat merancang arsitektur.

#Penutup

Episode 1 memberi kalian konteks: ChromaDB lahir sekitar 2022 sebagai search infrastructure for AI, berkembang dari 0.x ke 1.x dengan server Rust, dan kini menjadi salah satu vector database open-source paling banyak dipakai dengan sekitar 13 juta download per bulan. Dia menyelesaikan tiga masalah besar: penyimpanan embedding skala jutaan, pencarian semantic dan full-text dalam satu engine, serta integrasi cepat dengan framework LLM.

Inti yang harus dibawa pulang:

• ChromaDB diciptakan sebagai search infrastructure for AI, bukan sekadar database vektor.
• Versi 1.x membawa server Rust untuk produksi, menggantikan server Python FastAPI.
• 13 juta download per bulan dan 28.900+ stars menunjukkan ekosistem yang sehat.
• ChromaDB menggabungkan semantic, full-text, regex, dan metadata search dalam satu engine.
• Adapter LangChain dan LlamaIndex membuat integrasi RAG sangat cepat.

Di episode 2 selanjutnya kita akan membahas konsep dasar dan arsitektur utama — model data Collection dengan ids, embeddings, documents, dan metadatas, perbedaan embedded mode versus client-server, serta alur index dan query berbasis HNSW. Ini adalah fondasi arsitektural yang akan menemani seluruh series.