RAG (retrieval-augmented generation) sering dijelaskan sebagai konsep tunggal, padahal di baliknya ada beberapa komponen teknis yang masing-masing bisa jadi sumber masalah kalau tidak dipahami. Tiga yang paling sering disebut adalah vector database, embedding, dan chunking. Memahami ketiganya secara terpisah membantu tim yang mengevaluasi vendor atau membangun sendiri agar tidak cuma menerima istilah teknis tanpa tahu artinya.
Embedding: Mengubah Teks Jadi Angka yang Bisa Dibandingkan
Embedding adalah proses mengubah potongan teks menjadi deretan angka yang mewakili makna teks tersebut. Dua kalimat dengan makna serupa akan punya deretan angka yang “berdekatan” secara matematis, meski kata-katanya berbeda. Inilah yang membuat AI agent bisa menemukan dokumen relevan meski pelanggan tidak memakai kata kunci yang sama persis dengan yang ada di dokumen sumber.
Vector Database: Tempat Menyimpan dan Mencari Angka Itu
Setelah teks diubah jadi embedding, hasilnya disimpan di vector database, sistem yang dirancang khusus untuk mencari kecocokan cepat di antara jutaan deretan angka. Bedanya dengan database biasa: pencarian di sini bukan mencari kata yang sama persis, tapi mencari makna yang paling mendekati. Kualitas hasil pencarian AI agent sangat bergantung pada seberapa baik data yang tersimpan di sini terkurasi dan diperbarui.
Chunking: Ukuran Potongan Dokumen yang Sering Diremehkan
Sebelum diubah jadi embedding, dokumen panjang biasanya dipotong-potong menjadi bagian lebih kecil (chunk). Potongan yang terlalu kecil bisa membuat konteks penting hilang, sementara potongan terlalu besar bisa membuat pencarian jadi kurang presisi karena satu chunk mengandung terlalu banyak topik sekaligus. Menentukan ukuran chunk yang pas biasanya butuh percobaan berulang sesuai jenis dokumen, bukan angka baku yang cocok untuk semua kasus.
Kenapa Ini Penting Dipahami, Bukan Cuma Diserahkan ke Vendor
Tim yang tidak paham tiga komponen ini biasanya kesulitan mendiagnosis kenapa agent kadang menjawab dengan sumber yang kurang relevan. Padahal masalahnya bisa jadi sesederhana chunking yang kurang pas atau data lama di vector database yang belum diperbarui. Memahami mekanisme dasarnya membantu tim mengajukan pertanyaan yang tepat ke vendor atau tim teknis internal, bukan sekadar menerima “agent-nya memang begitu” sebagai jawaban akhir.