Belajar AI Engineer - Ekosistem LLM & Model

#Pendahuluan

Setelah di episode 1 kita memahami peran AI Engineer, episode ini membangun peta model yang akan kalian pakai sepanjang karier. Dunia model 2026 sangat ramai: GPT, Claude, Gemini, Llama, Qwen, DeepSeek, Mistral — plus ribuan fine-tuned models di Hugging Face. Tanpa peta, kalian akan bingung memilih dan mudah terjebak vendor lock-in.

Mengapa episode ini penting? Karena keputusan pemilihan model — model selection — adalah salah satu keputusan arsitektur paling berdampak di produk AI. Model menentukan kualitas, biaya, latensi, privasi, dan lisensi produk kalian. Memahami ekosistemnya sejak awal menyelamatkan kalian dari migrasi yang mahal.

#Taksonomi Model 2026

Model modern bisa dipetakan dalam beberapa dimensi:

#LLM Teks

Keluarga utama model teks (chat/instruction) yang menjadi tulang punggung produk AI:

• GPT (OpenAI): pelopor komersial, ekosistem API paling matang, punya mode JSON dan function calling yang stabil.
• Claude (Anthropic): dikenal kuat di coding dan reasoning, konteks panjang, kebijakan keselamatan ketat.
• Gemini (Google): multimodal native, terintegrasi ekosistem Google.
• Llama (Meta): katalis open-weight; rilis reguler dengan lisensi komunitas.
• Qwen (Alibaba): kuat multi-bahasa (termasuk Indonesia), sangat populer di Asia.
• DeepSeek: inovasi training murah; seri R untuk reasoning.
• Mistral: fokus efisiensi Eropa, rilis model 7-123B.

#Model Multimodal

Model modern tidak hanya membaca teks. Satu model bisa menerima gambar, audio, video, dan teks sekaligus — inilah yang membuat pipeline vision (episode 13) dan voice (episode 14) jauh lebih sederhana dibanding era model per-modalitas.

#Fine-Tuned Models

Banyak model publik adalah hasil fine-tuning di atas base model: khusus coding (CodeLlama, DeepSeek-Coder), khusus bahasa, atau khusus domain (medis, hukum). Di episode 10 kita belajar melakukan fine-tuning sendiri dengan LoRA.

#Open vs Closed Source

Ini bukan soal "mana yang lebih baik", melainkan soal konteks produk. Bandingkan keduanya:

#Menjelajahi Model: Praktik via API

Sekarang saatnya hands-on. Buat file explore_models.py:

explore_models.py

from openai import OpenAI
 
client = OpenAI()
 
def ask(model: str, question: str) -> str:
    r = client.chat.completions.create(
        model=model,
        messages=[{"role": "user", "content": question}],
        temperature=0.2,
    )
    return r.choices[0].message.content
 
for model in ["gpt-4o-mini", "gpt-4o"]:
    print(f"--- {model} ---")
    print(ask(model, "Jelaskan RAG dalam satu paragraf"))

Jalankan dengan python explore_models.py dan bandingkan jawaban antar model. Coba ubah temperature, tambah max_tokens, dan lihat perbedaan biaya di halaman usage dashboard kalian.

#Menjelajahi Model Lokal

Untuk model open-weight, eksplorasi lewat Ollama yang sudah kita pasang di episode 0:

ollama pull qwen3:8b
ollama pull llama3.1:8b
ollama pull deepseek-r1:7b
ollama run qwen3:8b "Apa perbedaan AI engineer dan ML engineer?"

Model lokal juga bisa dipanggil dari Python dengan endpoint OpenAI-compatible:

ollama serve

Panggil Ollama dengan SDK OpenAI

from openai import OpenAI
 
client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")
 
r = client.chat.completions.create(
    model="qwen3:8b",
    messages=[{"role": "user", "content": "Halo!"}],
)
print(r.choices[0].message.content)

Perhatikan satu hal penting: dengan mengubah base_url dan model, kode kalian bekerja untuk GPT, Claude (via proxy), maupun model lokal. Inilah dasar abstraksi penyedia model yang menjadi fondasi arsitektur produk AI — kita bangun lapisan ini lebih lanjut di episode 22.

#Common Pitfalls

• Selalu mengejar model terbaik: frontier model mahal dan overkill untuk banyak task. Mulai dari model kecil, naik versi hanya jika evaluasi menunjukkan perlu (episode 9).
• Mengabaikan lisensi: model open-weight punya lisensi berbeda (Llama, Qwen, DeepSeek). Periksa syarat lisensi untuk penggunaan komersial sebelum deploy.
• Vendor lock-in diam-diam: jangan tulis kode yang bergantung langsung pada API satu vendor tanpa lapisan abstraksi.
• Lupa mengecek context window: ukuran konteks berbeda per model dan sangat menentukan desain RAG (episode 8).

#Penutup

Inti yang harus dibawa pulang:

• Model 2026 terpetakan dalam dimensi: modalitas, akses, ukuran, dan tujuan.
• Closed (kualitas, mudah) vs open-weight (privasi, murah): pilihan bergantung konteks.
• Eksplorasi model dengan SDK OpenAI baik untuk API maupun model lokal via Ollama.
• Abstraksi penyedia model sejak awal menyelamatkan kalian dari lock-in.

Di episode 3 selanjutnya kita masuk ke praktik inti: working with LLM APIs — tokenization, context window, streaming, struktur API, dan membangun aplikasi sederhana dengan LLM API. Sampai jumpa di episode 3!