Kecerdasan Buatan

Retrieval-Augmented Generation (RAG): Membuat AI Menjawab Berdasarkan Dokumen Anda

RAG menggabungkan model bahasa dengan pencarian dokumen sehingga jawaban AI berdasar pada sumber yang relevan dan terkini. Pelajari arsitektur dan praktik terbaiknya.

Oleh Redaksi Oemah Solution 2 menit baca
Deretan laci katalog kartu kayu dengan pegangan logam, melambangkan pencarian dan pengambilan dokumen
Foto: Wooden Card Catalog Furniture oleh MarkBuckawicki · CC0 · Wikimedia Commons

Model bahasa besar menyimpan pengetahuan di dalam parameternya, tetapi pengetahuan itu terbatas pada data pelatihan, bisa usang, dan tidak mencakup dokumen internal organisasi. Retrieval-Augmented Generation (RAG) mengatasi hal ini dengan memberi model akses ke sumber pengetahuan eksternal saat menjawab.

Istilah RAG diperkenalkan dalam makalah Lewis dkk. (2020), yang menggabungkan memori parametrik (model generatif) dengan memori non-parametrik berupa indeks vektor dokumen. Hasilnya, jawaban menjadi lebih faktual dan sumbernya dapat ditelusuri.

Alur kerja RAG

  1. Indeksasi — dokumen dipecah menjadi potongan (chunk), diubah menjadi vektor embedding, lalu disimpan di basis data vektor atau mesin pencari.
  2. Retrieval — saat pengguna bertanya, pertanyaan juga diubah menjadi embedding untuk mencari potongan dokumen yang paling relevan.
  3. Augmentasi — potongan terpilih disisipkan ke dalam prompt sebagai konteks.
  4. Generasi — model menyusun jawaban berdasarkan konteks tersebut, idealnya disertai rujukan ke dokumen sumber.

Keunggulan

  • Pengetahuan mudah diperbarui tanpa melatih ulang model — cukup perbarui indeks dokumen.
  • Mengurangi halusinasi karena jawaban berlandaskan teks yang relevan.
  • Transparansi — pengguna dapat memeriksa sumber yang dikutip.
  • Kontrol akses — hasil pencarian dapat difilter sesuai hak akses pengguna.

Praktik terbaik

  • Strategi chunking: potongan terlalu kecil kehilangan konteks, terlalu besar menurunkan presisi.
  • Pencarian hibrida: gabungkan pencarian semantik (vektor) dengan pencarian kata kunci (misalnya BM25) untuk istilah teknis, nama, dan nomor.
  • Reranking hasil pencarian sebelum dikirim ke model.
  • Evaluasi berkelanjutan: ukur relevansi retrieval dan ketepatan jawaban dengan kumpulan pertanyaan uji.
  • Keamanan: waspadai prompt injection yang disisipkan di dalam dokumen, dan jangan memasukkan data rahasia yang tidak boleh dilihat pengguna.

RAG kini menjadi pola standar untuk asisten pengetahuan internal, layanan pelanggan, pencarian regulasi, dan berbagai aplikasi AI berbasis dokumen.

#rag#llm#generative ai#pencarian

Sumber & referensi

Artikel ini merupakan ringkasan dan interpretasi tim Oemah Solution atas sumber-sumber di bawah. Untuk detail dan konteks lengkap, rujuk sumber aslinya.

  1. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks (Lewis et al., 2020) arXiv · arxiv.org