Belajar AI - Generative AI & LLM (Pengenalan)

#Pendahuluan

Setelah di episode 6 kalian mengenal NLP dan computer vision, episode ini membahas topik yang paling banyak dibicarakan di 2026: Generative AI dan LLM. Model-model inilah — GPT, Claude, Gemini, Llama — yang mengubah cara jutaan orang bekerja, dan yang akan menjadi pusat praktik di separuh sisa series ini.

Mengapa episode ini penting? Karena memahami cara kerja LLM adalah kunci untuk memakainya dengan benar: kapan ia bisa dipercaya, kapan ia berhalusinasi, dan mengapa prompt engineering, RAG, dan fine-tuning diperlukan. Tanpa pemahaman ini, kalian akan memperlakukan LLM seperti mesin pencari — dan itu penyalahgunaan yang paling umum di dunia.

#Bagaimana LLM Bekerja

#Prediksi Kata Berikutnya

Ini rahasia paling sederhana dari LLM: ia adalah mesin prediksi kata berikutnya yang sangat besar. Diberi teks, model memprediksi token paling mungkin setelahnya, lalu mengulangi proses itu token demi token. "Kecerdasan" yang tampak hanyalah konsekuensi dari prediksi berantai yang dipelajari dari miliaran contoh.

Temperature mengontrol keacakan prediksi ini: rendah (0-0.2) → deterministik dan konsisten, tinggi (0.8+) → kreatif tapi kadang tidak fokus. Untuk tugas yang butuh akurasi, gunakan temperature rendah.

#Token: Unit Dasar LLM

LLM tidak membaca karakter per karakter, melainkan token — potongan teks (kata atau sub-kata). Satu token kira-kira 4 karakter untuk teks Inggris. Token penting karena: (1) harga API dihitung per token, dan (2) konteks model dibatasi jumlah token — "context window" adalah batas input yang bisa diproses sekaligus.

Token "Belajar AI itu seru" -> [Belajar][ AI][ itu][ seru]

#Transformer dan Attention

Transformer (paper Attention Is All You Need, 2017) adalah arsitektur di balik semua LLM modern. Inovasinya adalah mekanisme attention: saat memproses setiap token, model menghitung seberapa relevan token lain dalam konteks terhadap token ini.

Analoginya: saat membaca kalimat "Rina membawa payung karena hari ini hujan", model memberikan attention tinggi dari "payung" ke "hujan" — keduanya terhubung, meski tidak berdekatan. Kemampuan memodelkan hubungan jarak-jauh inilah yang membuat transformer jauh lebih kuat daripada arsitektur sebelumnya (RNN).

#Training LLM dalam Tiga Tahap

1. Pretraining: model belajar dari triliunan token internet — mempelajari bahasa, fakta, dan pola. Paling mahal (ratusan juta dolar, ribuan GPU, berbulan-bulan).
2. Fine-tuning (SFT): menyetel model pada data instruksi berkualitas agar mau mengikuti perintah.
3. Alignment (RLHF): menyetel agar jawaban membantu dan aman sesuai preferensi manusia.

Sebagai pengguna, kalian tidak perlu melalui tahap ini — model siap pakai. Tetapi memahami tahapannya menjelaskan mengapa model besar mahal, mengapa open-weight model (yang melakukan ini secara publik) mengubah industri, dan apa arti "fine-tuning" yang kita lakukan sendiri di episode 12.

#Output: Teks, Gambar, Audio, Video

Generative AI tidak hanya menghasilkan teks. Satu keluarga model kini bisa menghasilkan berbagai modalitas:

Fondasi bersama: semua belajar distribusi data dari contoh dalam jumlah raksasa, lalu mengambil sampel baru dari distribusi itu. Episode 20 membahas model multimodal yang menggabungkan semuanya dalam satu model.

#Peta Model 2026: Closed vs Open-Weight

#Closed Model (via API)

• GPT (OpenAI): pelopor LLM komersial, ekosistem API paling matang.
• Claude (Anthropic): dikenal kuat pada coding dan reasoning, kebijakan keselamatan ketat.
• Gemini (Google): terintegrasi dengan ekosistem Google, multimodal native.
• Grok (xAI): terhubung langsung ke platform X.

Kelebihannya: kualitas tinggi, tanpa infrastruktur sendiri, fitur lengkap (tool calling, vision). Kekurangannya: data mengalir ke pihak ketiga, biaya per token, dan vendor lock-in.

#Open-Weight Model

• Llama (Meta): katalis gerakan open-weight, rilis reguler (Llama 4 di 2025).
• Qwen (Alibaba): kuat untuk multi-bahasa, termasuk sangat populer di Asia.
• Gemma (Google): open-weight versi keluarga Gemini.
• DeepSeek: inovasi training murah yang mengguncang industri (R1 untuk reasoning).
• Mistral: fokus efisiensi Eropa.

Kelebihannya: bisa dijalankan sendiri (privasi), tanpa biaya per token, bisa di-fine-tune bebas. Kekurangannya: butuh GPU & skill deployment, kualitas bisa tertinggal dari model closed terbaik.

ollama run qwen3:8b

#Common Pitfalls

• Memakai LLM sebagai database fakta: ia tidak menyimpan fakta secara deterministik — verifikasi dengan sumber eksternal (RAG di episode 13).
• Temperature terlalu tinggi untuk tugas faktual: hasil menjadi tidak konsisten.
• Konteks diisi hal yang tidak perlu: token itu biaya; semakin pendek prompt yang relevan, semakin murah dan akurat.
• Menunggu "model terbaik": ekosistem berubah bulanan; yang penting adalah arsitektur solusi (RAG, evaluasi, agents) yang tahan terhadap pergantian model.

#Penutup

Inti yang harus dibawa pulang:

• LLM = mesin prediksi token berikutnya yang sangat besar; temperature mengontrol keacakan.
• Transformer + attention memungkinkan model memahami hubungan jarak-jauh dalam teks.
• Training LLM: pretraining → fine-tuning → alignment — mahal dan jarang dilakukan sendiri.
• Model closed (API) vs open-weight (self-host): pilihan bergantung konteks bisnis.

Di episode 8 selanjutnya kita membahas keterampilan yang paling sering diabaikan: evaluasi model & etika AI — metrik, validation, bias/variance, kualitas LLM (groundedness, hallucination), plus bias, fairness, privacy, EU AI Act, NIST AI RMF, dan praktik responsible AI. Sampai jumpa di episode 8!