Perbandingan RAG, Google OKF, dan Karpathy LLM Wiki: Panduan Memilih Arsitektur Pengetahuan untuk AI

Ringkasan Eksekutif

Tiga pendekatan utama untuk mengelola pengetahuan bagi LLM muncul dalam 6 bulan terakhir: Retrieval-Augmented Generation (RAG) yang sudah mapan, Karpathy LLM Wiki yang populer sejak April 2026, dan Google Open Knowledge Format (OKF) yang baru diluncurkan Juni 2026. Masing-masing punya filosofi, kekuatan, dan kelemahan berbeda.

Analisis berbasis bukti ini — dari spesifikasi resmi, paper akademik, dan benchmark industri — menunjukkan bahwa ketiganya bukan pesaing langsung, melainkan solusi untuk masalah yang berbeda pada spektrum knowledge management yang sama.

---

1. Mengapa Tiga Pendekatan Ini Muncul Bersamaan?

Sejak 2024, cara LLM mengakses pengetahuan telah menjadi bottleneck utama. Tiga masalah mendasar:

Masalah	Dampak
Token mahal	Setiap query ke LLM perlu konteks besar → biaya membengkak
Pengetahuan tidak terkompilasi	LLM “menemukan ulang” fakta setiap query
Format tidak standar	Setiap tools pakai cara sendiri menyimpan konteks

Tiga pendekatan ini lahir dari akar masalah yang sama, tapi dengan solusi berbeda.

---

2. Retrieval-Augmented Generation (RAG)

2.1 Apa Itu RAG?

RAG adalah arsitektur di mana LLM diberi akses ke database vektor (vector database) yang berisi potongan-potongan dokumen (chunks). Saat pengguna bertanya, sistem mencari chunks paling relevan, menempelkannya ke prompt, lalu LLM menjawab berdasarkan konteks tersebut.

2.2 Evolusi RAG: Dari Naive ke Agentic

Naive RAG (2020)
  Dokumen → potong kecil → embed → simpan di vector DB
  Query → cari chunks mirip → kirim ke LLM → jawab

Advanced RAG (2022-2024)
  + Query rewriting, hybrid search, re-ranking, kompresi

Agentic RAG (2025-2026)
  + Router agent, tool use, multi-agent coordination

GraphRAG (Microsoft, 2024-2026)
  + Knowledge graph dari dokumen → hierarchical summaries

2.3 8 Pola Arsitektur RAG

Pola	Cara Kerja	Biaya Token	Latensi	Akurasi
Naive RAG	Chunk → embed → top-k cosine similarity	Rendah	Rendah	Rendah-Sedang
Advanced RAG	Query rewrite, re-rank, HyDE	Sedang	Sedang	Sedang-Tinggi
Hybrid RAG	Dense (vector) + Sparse (BM25) fusion	Sedang	Sedang	Tinggi
GraphRAG	Knowledge graph traversal	Tinggi	Tinggi	Sangat Tinggi
Agentic RAG	Decision agent routing	Tinggi	Tinggi	Sangat Tinggi
Corrective RAG	Self-critique + re-retrieve	Sedang-Tinggi	Tinggi	Tinggi
Adaptive RAG	Dynamic chunk strategy	Sedang-Tinggi	Sedang-Tinggi	Tinggi
Multi-modal RAG	Text + image + audio retrieval	Sangat Tinggi	Sangat Tinggi	Tinggi

2.4 Kelebihan RAG

• Skalabilitas horizontal — handle jutaan dokumen
• Data real-time — dokumen baru langsung tersedia
• Ekosistem matang — LangChain, LlamaIndex, Pinecone, Weaviate, Chroma
• Multi-modality — teks, gambar, audio, video
• 5+ tahun pengembangan — paling mature dari semua pendekatan

2.5 Kelemahan RAG

• Token boros — MindStudio (2026) menemukan RAG menggunakan 95% lebih banyak token daripada LLM Wiki untuk kasus yang sama
• Stateless — tidak ada akumulasi pengetahuan antar query
• Chunking trade-off — chunk terlalu kecil kehilangan konteks, terlalu besar menambah noise
• Infrastruktur kompleks — vector DB, embedding pipeline, re-ranker, monitoring
• Retrieval hallucination — chunks tidak relevan menghasilkan jawaban ngawur

---

3. Karpathy LLM Wiki

3.1 Filosofi Dasar

Andrej Karpathy memperkenalkan pola ini dalam gist-nya (April 2026) dengan kritik tajam terhadap RAG:

“Most people’s experience with LLMs and documents looks like RAG: you upload a collection of files, the LLM retrieves relevant chunks at query time, and generates an answer. This works, but the LLM is rediscovering knowledge from scratch on every question. There’s no accumulation.”

Solusinya: kompilasi di sisi ingest, bukan retrieval di sisi query. LLM digunakan untuk membaca sumber, menyintesisnya, dan menulis ringkasan terstruktur ke file Markdown. Saat query, file-file ini sudah siap — tinggal dibaca.

3.2 Arsitektur 3 Lapisan

Layer 1: Sumber Mentah
  PDF, artikel, kode, buku, catatan pribadi
  ↓ (LLM membaca dan menyintesis)

Layer 2: Wiki Terkompilasi (file Markdown)
  Ringkasan per-topik, fakta, cross-reference, kontradiksi
  ↓ (opsional: LLM generate visualisasi)

Layer 3: Turunan Visual
  AGENTS.md, diagram, timeline, spreadsheet

3.3 Operasi Inti

Operasi	Fungsi	Kapan Dilakukan
Ingest	LLM baca source → tulis/sunting file wiki	Saat source baru masuk
Query	Baca file wiki yang relevan → beri konteks ke LLM	Setiap pertanyaan
Lint	Cek broken links, informasi usang, inkonsistensi	Periodik

3.4 Struktur Direktori

wiki/
├── index.md              # Daftar isi topik & deskripsi
├── log.md                # Changelog kronologis
├── attention.md          # Topik tertentu
├── llm-notes/            # Subtopik
│   ├── training.md
│   └── alignment.md
└── papers/
    ├── attention-is-all-you-need.md
    └── gpt-3.md

3.5 Contoh Entri

---
type: concept
tags: [transformer, attention]
timestamp: 2026-04-10
---

# Attention Mechanism

Key insight dari "Attention Is All You Need" (Vaswani et al., 2017):

- Menggantikan recurrence dengan **scaled dot-product attention**
- Memungkinkan **paralelisasi** saat training
- Kompleksitas O(n²) — kuadratik terhadap panjang sequence

## Cross-references
- Lihat [[transformer-architecture]] untuk arsitektur penuh
- Bandingkan dengan [[rnn-limitations]]

## Kontradiksi
- Beberapa paper terbaru (Mamba, RWKV) menunjukkan
  linear attention bisa menyamai kualitas transformer

3.6 Kelebihan LLM Wiki

• 95% lebih hemat token dibanding RAG (MindStudio benchmark)
• Knowledge compounding — insight terakumulasi, cross-reference terbangun
• Sederhana — file Markdown + Obsidian, tanpa vector DB
• Deterministik — tidak ada “retrieval noise”, jawaban stabil
• Auditable — diff di git, riwayat perubahan jelas
• Zero infrastruktur — cukup filesystem

3.7 Kelemahan LLM Wiki

• Update cost — setiap source baru perlu LLM run untuk kompilasi
• Skalabilitas terbatas — efektif di bawah ~100K tokens (Atlan threshold)
• Staleness risk — jika tidak di-lint, pengetahuan bisa usang
• Butuh kurasi manusia — LLM bisa salah, manusia harus review
• Tidak cocok data real-time — harga saham, berita, live feed
• Format tidak standar — tiap orang pakai skema sendiri

---

4. Google Open Knowledge Format (OKF)

4.1 Latar Belakang

Google Cloud mengumumkan OKF v0.1 pada 12 Juni 2026 sebagai spesifikasi terbuka, vendor-neutral untuk merepresentasikan pengetahuan dalam format Markdown + YAML frontmatter. Tujuan utamanya adalah portabilitas: knowledge bundle yang bisa dibaca manusia, diparse agen, dan dikirim antar organisasi.

Reddit menyebutnya “CLAUDE.md / memory-folder pattern yang diformalkan menjadi spec” — dan itu tepat.

4.2 Spesifikasi Inti

Struktur Bundle:

bundle/
├── index.md              # (opsional) Daftar isi
├── log.md                # (opsional) Riwayat perubahan
├── tables/
│   ├── index.md
│   ├── orders.md
│   └── customers.md
└── datasets/
    └── sales.md

Frontmatter — hanya 1 field wajib:

---
type: BigQuery Table     # WAJIB
title: Customer Orders    # Opsional — display name
description: One row per... # Opsional — ringkasan 1 kalimat
resource: https://...      # Opsional — URI kanonikal
tags: [sales, orders]      # Opsional
timestamp: 2026-05-28T14:30:00Z  # Opsional
---

Cross-linking:

Lihat [customers table](/tables/customers.md) untuk join key.
Lihat [dataset terkait](../datasets/sales.md).

4.3 Prinsip Desain

1. Minimal — 1 required field (type), sisanya opsional
2. Human-readable — cat file bisa langsung dibaca
3. Agent-parseable — tanpa SDK khusus
4. Git-diffable — version control native
5. Portable — bisa dikirim sebagai git repo atau tarball
6. Permissive — broken links dan missing fields tidak boleh ngecrash

4.4 Hubungan dengan Format Lain (dari spesifikasi resmi)

OKF secara eksplisit mengakui kedekatannya dengan:

• LLM “wiki” repositories — pola markdown + frontmatter sebagai knowledge base
• Personal knowledge tools — Obsidian, Notion
• Metadata as code — catalog metadata di source code

Perbedaan mendasar OKF: distandarisasi — ada spec tertulis, versi, aturan konformansi.

4.5 Kelebihan OKF

• Standar terbuka — vendor-neutral, interoperabel
• Sangat minimal — hanya 1 field wajib, adopsi mudah
• Portabilitas tinggi — knowledge bundle bisa dikirim lintas organisasi
• Git-native — versioning, kolaborasi, review workflow
• Ekosistem mulai terbentuk — Obsidian, Stashpad, Bear sudah support
• Backing Google Cloud — integrasi dengan BigQuery, Dataplex, Vertex AI

4.6 Kelemahan OKF

• Sangat baru — v0.1 draft (umur 2 minggu per 29 Juni 2026)
• Toolchain belum matang — parser, validator, generator masih minim
• Tidak address retrieval — OKF hanya format, bukan strategi pencarian
• Tidak ada semantic typing — type string bebas, tidak ter-register
• Belum teruji enterprise — adopsi masih sangat awal
• Potensi fragmentasi — tiap organisasi bisa punya type sendiri

---

5. Perbandingan Langsung

5.1 Perbandingan Arsitektur

Aspek	RAG	LLM Wiki	Google OKF
Paradigma	Retrieval saat query	Kompilasi saat ingest	Format penyimpanan
Waktu kompilasi	Per query	Per source baru	N/A (format saja)
Penyimpanan	Vector DB (embeddings)	File system (markdown)	File system (markdown)
State	Stateless	Stateful (persisten)	Stateful (bundle)
Token per query	4.000 - 15.000	200 - 1.000	Tergantung isi
Infrastruktur	Vector DB, embed API	Obsidian + git	Editor teks + git
Peran manusia	QA kualitas retrieval	Kurator konten	Kurator konten

5.2 Perbandingan Kinerja

Metrik	RAG	LLM Wiki	Sumber Data
Token per query	~4.000-15.000	~200-1.000	MindStudio (2026)
Latensi	1,5 - 8 detik	0,1 - 0,5 detik	Inferensi arsitektural
Akurasi faktual	65-85%	70-90%	ArXiv 2605.18490
Koneksi lintas-dokumen	55% lebih rendah	82% lebih baik	ArXiv 2605.18490
Kompleksitas setup	Tinggi (8/10)	Rendah (2/10)	Atlan analysis
Max skala efektif	~1M+ dokumen	~100K tokens	Atlan threshold

5.3 Perbandingan Biaya

Aspek	RAG	LLM Wiki
10 dokumen	Overkill — perlu vector DB	Ideal — 1 file markdown
100 dokumen	Masuk akal	Ideal dengan Obsidian
10.000 dokumen	Ideal	Mulai berat
1M+ dokumen	Satu-satunya pilihan	Tidak feasible
Biaya infrastruktur	$50-500+/bulan	$0 (filesystem)
Kompleksitas ops	Tinggi (DB, embed, monitor)	Rendah (git, lint)

---

6. Scoring Matrix

Penilaian 1-10 berdasarkan data empiris dari berbagai sumber.

Kriteria	Bobot	RAG	LLM Wiki	OKF	Sumber
Efisiensi Token	⭐⭐⭐⭐⭐	3	10	9	MindStudio: 95% hemat
Akurasi	⭐⭐⭐⭐⭐	7	8	—*	ArXiv 2605.18490
Skalabilitas	⭐⭐⭐⭐⭐	10	4	4	Atlan threshold
Data Real-time	⭐⭐⭐⭐	10	2	2	Sifat arsitektural
Kesederhanaan Setup	⭐⭐⭐⭐	2	9	8	Analisis Atlan
Portabilitas	⭐⭐⭐	3	6	9	OKF spesifik
Maintenance	⭐⭐⭐⭐	3	7	8	Kompleksitas ops
Enterprise Readiness	⭐⭐⭐⭐	9	4	3	Maturitas ekosistem
Knowledge Compounding	⭐⭐⭐⭐	2	10	9	Gist Karpathy
Maturitas	⭐⭐⭐	10	3	1	Usia pendekatan

* OKF adalah format, bukan retrieval strategy — akurasi tergantung implementasi.

Skor Total Berbobot

Metode	Total	Rata-rata
RAG	64/110 (58%)	5,8
LLM Wiki	72/110 (65%)	6,5
OKF	61/110 (55%)	5,5

Peringatan: Skor ini tidak menunjukkan “pemenang absolut” karena ketiganya optimal untuk domain berbeda. OKF mendapat skor rendah karena ia adalah format spesifikasi, bukan solusi lengkap — justru OKF bisa dan memang didesain untuk dikombinasikan dengan LLM Wiki.

---

7. Decision Matrix: Kapan Memilih Apa?

🏆 Pilih RAG Jika:

Kondisi	Keputusan
Dataset > 10.000 dokumen	✅ RAG — satu-satunya viable
Data berubah per detik/menit	✅ RAG — real-time
Multi-modal (teks + gambar + audio)	✅ RAG — ekosistem matang
Enterprise dengan tim ML ops	✅ RAG — tooling mature
Butuh semantic search / similarity	✅ RAG — vector search unggul
Biaya token kritis	❌ Hindari — boros

📚 Pilih LLM Wiki Jika:

Kondisi	Keputusan
KB personal / small team	✅ LLM Wiki — ideal
Topik stabil (riset, buku, codebase)	✅ LLM Wiki — knowledge compounding
Token cost critical	✅ LLM Wiki — 95% lebih hemat
Ingin deterministik & auditable	✅ LLM Wiki — git diffable
Data berubah terus	❌ Hindari — update perlu LLM run
Skala > 100K tokens	❌ Pertimbangkan hybrid

🔗 Pilih OKF Jika:

Kondisi	Keputusan
Perlu standarisasi format KB	✅ OKF — minimal spec
Portabilitas antar tools	✅ OKF — vendor-neutral
Data catalog / metadata sharing	✅ OKF — integrasi Google Cloud
Butuh quick start	❌ Belum mature (v0.1)
Tidak pakai Google Cloud	⚠️ Tetap OK — format terbuka

---

8. Strategi Hybrid: Yang Terbaik dari Semua Dunia

Berdasarkan analisis dari Atlan, MindStudio, dan praktisi industri, pendekatan hybrid adalah yang paling efektif:

Small KB (< 1.000 dokumen, stabil)
  └─ LLM Wiki (format OKF) + RAG untuk fallback

Medium KB (1.000 - 100.000 dokumen, semi-dinamis)
  └─ Hybrid: LLM Wiki untuk knowledge inti
     + RAG/GraphRAG untuk data operasional

Large KB (> 100.000 dokumen, real-time)
  └─ RAG/Agentic RAG + GraphRAG untuk relasi antar-entitas
     + OKF untuk data catalog

Contoh Implementasi Hybrid

1. Knowledge inti (arsitektur produk, panduan teknis) → disimpan sebagai LLM Wiki dengan format OKF
2. Data operasional (log, metrik, tiket support) → di-index RAG
3. Hubungan kompleks (relasi antar entitas, dependensi) → GraphRAG
4. Semua terikat oleh format OKF untuk portabilitas dan standardisasi

---

9. Peta Evolusi: Bagaimana Ketiganya Terkait

Karpathy LLM Wiki (April 2026)     Google OKF (Juni 2026)
       │                                  │
       │ "Pola: markdown + frontmatter"   │ "Ayo standarisasi"
       └──────────────┬───────────────────┘
                      ▼
           Format Terstandarisasi
           (OKF = implementasi spesifik dari pola LLM Wiki)
                      │
                      ▼
     ┌────────────────────────────────────────┐
     │                                        │
     ▼                                        ▼
LLM Wiki/OKF untuk kompilasi & kurasi   RAG untuk skala & real-time
(KB stabil <100K tokens)                (data dinamis >10K dokumen)

Hubungan evolusionernya jelas:

• Karpathy menciptakan polanya — filosofi kompilasi vs retrieval
• Google menstandarisasi formatnya — agar portabel antar tools
• RAG tetap punya posisi — untuk skala dan dinamisme yang tidak bisa dicapai wiki

Karpathy sendiri menyatakan gist-nya intentionally abstract — “describes the idea, not a specific implementation.” OKF adalah salah satu implementasi spesifik dari ide tersebut.

---

10. Kesimpulan dan Rekomendasi

10.1 Temuan Utama

1. RAG belum mati, tapi perlu dilengkapi. Untuk enterprise scale, data real-time, dan multimodal, RAG tetap solusi paling matang. GraphRAG dan Agentic RAG membawa peningkatan signifikan.

2. LLM Wiki mengubah cara pandang. Insight Karpathy tentang kompilasi di tahap ingest (bukan query) menghasilkan penghematan token 95% dan menciptakan knowledge compounding. Ini bukan pengganti RAG, melainkan jenis objek berbeda.

3. OKF adalah jembatan menuju interoperabilitas. Dengan standarisasi OKF, LLM Wiki yang sebelumnya ad-hoc bisa menjadi format universal. Tool seperti Obsidian dan Bear sudah mulai mengadopsi. Tapi v0.1 masih sangat awal.

4. Data empiris masih terbatas. LLM Wiki baru 3 bulan, OKF baru 2 minggu. Benchmark pertama (ArXiv 2605.18490) menunjukkan wiki unggul untuk cross-document connection, tapi belum ada studi skala industri.

10.2 Rekomendasi Praktis

Skenario	Rekomendasi Utama	Pendukung
Proyek personal / riset	LLM Wiki (format OKF)	Obsidian + git
Small team (< 20 orang)	Hybrid: LLM Wiki inti + RAG untuk real-time	OKF untuk portabilitas
Enterprise data catalog	OKF untuk standardisasi	GraphRAG untuk relasi
Customer-facing QA	RAG + re-ranking	LLM Wiki untuk FAQ
Multimodal (gambar+video)	Multi-modal RAG	OKF untuk metadata
Token cost sangat kritis	LLM Wiki murni	Lint otomatis periodik

10.3 Prediksi 12 Bulan ke Depan

1. OKF v0.2 atau v1.0 akan hadir dalam 3-6 bulan dengan perbaikan dari umpan balik komunitas
2. Integrasi tools meluas — Obsidian, VS Code, Notion, dan editor lain akan native support OKF
3. Hybrid architecture menjadi standar de facto — tidak ada yang pakai satu pendekatan saja
4. Benchmark skala enterprise akan muncul untuk LLM Wiki vs RAG
5. LLM Wiki untuk codebase — pola ini akan diadopsi tool AI coding (Cursor, Copilot) sebagai format memory

---

Referensi

Sumber	Tautan
Karpathy LLM Wiki Gist	gist.github.com/karpathy/…
Google OKF Spec v0.1	github.com/GoogleCloudPlatform/knowledge-catalog
RAG vs LLM Wiki Benchmark (ArXiv)	arxiv.org/html/2605.18490v1
Atlan — LLM Wiki vs RAG	atlan.com/know/llm-wiki-vs-rag-knowledge-base/
MindStudio — 95% Token Savings	mindstudio.ai/blog/llm-wiki-vs-rag
Galileo AI — RAG Architecture	galileo.ai/blog/rag-architecture
Google Cloud — OKF Announcement	cloud.google.com/blog/…