RAG untuk AI Agent: Mendasarkan Agent pada Data Anda

RAG, retrieval-augmented generation, ialah cara AI agent menjawab dan bertindak menggunakan dokumen dan data sebenar anda dan bukan meneka daripada apa sahaja yang kebetulan dipelajari model semasa latihan. Agent menukar soalan atau tugas kepada carian, mengambil semula bahagian paling relevan daripada knowledge base, dan menjana langkah seterusnya hanya daripada apa yang ditemuinya, sambil memetik sumber. Bagi agent, RAG bukan ciri tambahan. Ia lapisan pendasaran yang memastikan setiap tindakan terikat pada sesuatu yang nyata dan terkini.

RAG dalam Satu Ayat, untuk Agent

Mekanik terasnya: ambil dahulu, jana kemudian, dan jangan sekali-kali melangkau langkah perolehan semula. Retrieval-augmented generation sebagai teknik diperkenalkan oleh Lewis et al. pada 2020, menggandingkan langkah carian dengan model bahasa supaya output didasarkan pada bahan sumber yang khusus dan boleh disahkan dan bukan pengetahuan latihan umum. Gartner mengiktiraf betapa pusatnya perkara ini kepada AI perusahaan, menerbitkan Market Guide for Enterprise AI Search khusus pada September 2025 yang menamakan penumpuan carian, RAG, dan agentic AI sebagai pemacu pasaran utama.

Halaman glosari itu membincangkan mekanik secara mendalam: vector embedding, saluran perolehan semula, chunking. Corak RAG Assistant turut membincangkan kes penggunaan bersendirian secara mendalam, chatbot yang mengambil semula sekali dan menjawab, lengkap dengan angka ROI dan pecahan mod kegagalannya sendiri. Halaman ini tentang sesuatu yang lebih sempit: bagaimana perolehan semula sesuai dalam agent yang juga bernalar, menggunakan alat, dan mengambil tindakan, bukan sekadar bot Soal Jawab yang menjawab lalu berhenti.

Mengapa Agent Memerlukan Perolehan Semula, Bukan Sekadar Prompt yang Lebih Besar

Jalan pintas yang menggoda ialah melangkau perolehan semula dan menampal segala yang mungkin diperlukan agent terus ke dalam prompt-nya. Itu cepat gagal, atas tiga sebab.

Pertama, pengetahuan latihan menjadi lapuk pada hari ia dibekukan. Model yang dilatih beberapa bulan lalu tidak tahu dasar pemulangan anda berubah minggu lalu atau kontrak pelanggan diperbaharui semalam. Perolehan semula mengambil daripada sumber langsung, jadi jawapan hanya setua kemas kini dokumen terakhir anda.

Kedua, tetingkap konteks yang lebih besar bukan pas percuma. Menyumbat seluruh knowledge base ke dalam setiap prompt menambah kos token dan kependaman pada setiap panggilan, dan penyelidikan tentang prestasi konteks panjang berulang kali mendapati bahawa model tidak menggunakan segala-galanya dalam konteks besar secara sama rata. Maklumat relevan lebih kerap terlepas pandang apabila ia tertanam lebih dalam, terutamanya di tengah input yang panjang. Perolehan semula menyelesaikan masalah ini dengan menyerahkan kepada model hanya segelintir bahagian yang benar-benar relevan dengan soalan khusus ini, bukan segala yang anda miliki. Memori AI Agent membincangkan had tetingkap konteks ini dengan lebih mendalam, kerana ia sebenarnya masalah memori sama seperti masalah perolehan semula.

Ketiga, perolehan semula mengatasi fine-tuning untuk apa-apa yang berubah. Fine-tuning menanamkan pengetahuan ke dalam pemberat model, mahal untuk diulang dan lapuk semula sebaik sahaja dokumen sumber berubah. Perolehan semula membaca daripada sumber pada saat soalan ditanya, jadi pada kali seterusnya seseorang bertanya, ia sudah mempunyai kemas kini itu.

Di Mana Perolehan Semula Berada dalam Gelung Agent

Agent tidak mengambil semula sekali pada permulaan lalu berhenti. Perolehan semula biasanya berlaku semasa tanggap, apabila agent mengumpul konteks yang diperlukan untuk bertindak, dan ia sebenarnya panggilan alat seperti yang lain: "cari dalam knowledge base" berada dalam senarai alat agent di sebelah "semak CRM" dan "tempah mesyuarat".

Perbezaan antara chatbot RAG bersendirian dengan agent yang menggunakan RAG kelihatan di sini. Pembantu bersendirian mengambil semula sekali dan menjawab. Agent boleh melihat apa yang diperolehnya, menyedari hasilnya tidak lengkap atau bercanggah, mengambil semula dengan pertanyaan yang lebih sempit, dan barulah memutuskan apa yang perlu dilakukan. Gelung itu, ambil, bernalar tentang apa yang kembali, mungkin ambil semula, kemudian bertindak, itulah yang menjadikannya agentic dan bukan carian sekali tembak.

RAG lwn Alat lwn Memori: Memilih Pendasaran yang Tepat

Bukan setiap fakta yang diperlukan agent terletak dalam dokumen. Mengetahui mekanisme pendasaran mana yang sesuai dengan jenis maklumat mana menghalang anda daripada membina perkara yang salah.

Kebanyakan agent pengeluaran menggunakan dua atau tiga daripada ini bersama-sama. AI Knowledge Base Agent mengambil semula daripada pusat bantuan anda (RAG), menyemak tahap akaun dan versi pelanggan melalui CRM (panggilan alat), dan mengingati sama ada soalan yang tepat ini sudah timbul dalam sesi ini (memori) sebelum memutuskan sama ada untuk menjawab, bertanya, atau menyerahkan. Lihat Memori AI Agent untuk sisi jangka pendek dan jangka panjang bagi lajur ketiga itu.

Agent Berasaskan RAG dalam Amalan

Corak ini kekal merentasi knowledge base yang sangat berbeza. Tiga contoh daripada pustaka ini menunjukkan bentuknya.

AI Knowledge Base Agent mengambil semula daripada artikel pusat bantuan dan wiki dalaman, menjawab hanya menggunakan apa yang ditemuinya, memetik nama artikel sumber dalam setiap balasan, dan, yang kritikal, menandakan soalan sebagai jurang kandungan apabila perolehan semula kembali kosong. Sifar hasil bukan sekadar pencetus serahan, ia isyarat yang memberitahu pasukan kandungan anda dengan tepat apa yang perlu ditulis seterusnya.

AI Policy Q&A Agent menjalankan corak ambil-kemudian-petik yang sama terhadap korpus yang berbeza: buku panduan pekerja dan bukan pusat bantuan sokongan. Ia menjawab soalan dasar HR dan IT dengan ketat daripada apa yang tertulis, menunjukkan sejauh mana baharu bahagian yang dipetik dikemas kini, dan menghalakan kepada HR sebaik sahaja buku panduan tidak merangkumi soalan itu dan bukan meneka dasar syarikat.

AI Contract Review Agent menggunakan perolehan semula dengan cara berbeza: bukannya menjawab soalan, ia mengambil semula playbook dalaman anda (terma pembayaran yang boleh diterima, had liabiliti, kedudukan IP) dan membandingkan kontrak masuk dengannya klausa demi klausa, memaparkan setiap penyimpangan untuk diputuskan oleh manusia. Mekanik ambil-kemudian-dasarkan yang sama, diterapkan pada perbandingan dan bukan Soal Jawab.

Jika anda membandingkan platform untuk membina salah satu daripada ini, panduan membeli perisian knowledge base dan ringkasan alat sokongan kedua-duanya merangkumi pilihan mesra perolehan semula yang wajar dilihat.

Mekanik, Secara Ringkas

Dokumen sumber dipecahkan kepada bahagian (chunk), setiap chunk ditukar kepada vektor melalui model embedding, dan vektor itu disimpan dalam pangkalan data vektor yang dibina untuk carian kesamaan yang pantas. Soalan ditukar kepada vektor dengan cara yang sama, sistem mencari chunk yang vektornya paling hampir dengannya, dan chunk itu, bukan seluruh knowledge base, dimasukkan ke dalam konteks model bersama soalan. Saiz chunk, penapisan metadata (jabatan, tarikh dokumen, versi produk), dan kekerapan indeks disegarkan semuanya menjejaskan kualiti jawapan lebih daripada model khusus yang anda gunakan untuk menjana. Untuk panduan penuh tentang embedding dan carian vektor, lihat Apakah Pangkalan Data Vektor?

Di Mana RAG Gagal untuk Agent

Mod kegagalan yang sama yang menimpa pembantu RAG bersendirian menimpa agent dengan lebih teruk, kerana agent mungkin bertindak berdasarkan perolehan semula yang buruk dan bukan sekadar memaparkannya.

Knowledge base yang lapuk ialah kegagalan paling lazim dan paling sukar disedari, kerana agent masih menjawab dengan yakin. Ia cuma menjawab daripada dasar suku tahun lepas. Knowledge base tanpa pemilik akan terbiar, dan tiada siapa perasan sehingga pelanggan bertindak berdasarkan maklumat yang salah.

Petikan yang direka-reka (hallucinated) ialah kegagalan paling berbahaya, kerana ia kelihatan seperti kejayaan: jawapan yakin dengan sumber dilampirkan yang, apabila diperiksa dengan teliti, sebenarnya tidak menyatakan apa yang didakwa agent. Inilah jenis kegagalan yang diberi amaran oleh OWASP Top 10 untuk Aplikasi LLM di bawah risiko maklumat salah dan kebergantungan berlebihan: pengguna lebih mempercayai jawapan berpetikan daripada yang tidak berpetikan, jadi petikan yang salah lebih merosakkan daripada jawapan salah yang biasa.

Kedua-dua kegagalan menunjukkan penyelesaian yang sama: seseorang mesti memiliki knowledge base, menyemaknya mengikut jadual, dan menganggap setiap perolehan semula tanpa hasil atau berkeyakinan rendah sebagai isyarat yang wajar disiasat, bukan hingar yang diabaikan.

Bila RAG Alat yang Salah untuk Tugas Itu

Perolehan semula tidak menyelesaikan setiap masalah pendasaran. Jika maklumat berubah setiap beberapa minit (inventori langsung, kalendar hari ini, baki akaun saat ini), panggilan alat kepada sistem langsung mengatasi perolehan semula daripada salinan terindeks yang sudah sedikit lapuk pada masa ia diindeks. Dan jika pengguna sudah boleh menemui dokumen yang tepat dengan baik, dan masalah sebenarnya ialah tiada siapa membacanya, penyelesaiannya mungkin carian yang lebih baik atau dokumen yang lebih pendek, bukan lapisan generatif di atasnya.

Panduan Anthropic sendiri tentang membina agent meletakkan perolehan semula sebagai salah satu daripada tiga penambahan, bersama alat dan memori, yang menukar model biasa kepada sesuatu yang benar-benar boleh melakukan kerja. Tiada satu pun daripada ketiga-tiganya menggantikan dua yang lain. Agent yang hanya mengambil semula boleh menjawab soalan tetapi tidak boleh bertindak. Agent yang hanya memanggil alat boleh bertindak tetapi tidak boleh menerangkan dasar yang tidak pernah diberikan kepadanya. Kebanyakan agent yang dibina dengan baik memerlukan ketiga-tiganya, disaizkan mengikut apa yang sebenarnya diperlukan oleh setiap bahagian tugas.

Fakta Utama

• RAG mendasarkan jawapan dan tindakan AI agent pada dokumen dan data sebenar dan bukan pengetahuan latihan beku model, dengan mengambil semula bahagian relevan sebelum menjana respons.
• Di dalam agent, perolehan semula lazimnya panggilan alat yang dibuat agent semasa langkah tanggapnya, dan agent yang berkebolehan boleh mengambil, menilai apa yang diperolehnya, dan mengambil semula sebelum bertindak.
• Pengetahuan dalam dokumen memerlukan RAG, data berstruktur langsung memerlukan alat atau panggilan API, dan sejarah tugas agent sendiri memerlukan memori. Kebanyakan agent sebenar menggabungkan ketiga-tiganya.
• Kegagalan RAG paling berbahaya ialah petikan yang direka-reka: jawapan yakin dengan sumber dilampirkan yang sebenarnya tidak menyokong dakwaan itu, itulah sebabnya pemilik kandungan yang dinamakan dan kadens semakan sama pentingnya dengan teknologi perolehan semula itu sendiri.

Ke Mana Seterusnya

Perolehan semula ialah satu daripada tiga cara agent mendasarkan dirinya pada realiti, bersama alat dan memori. Jika masalah pengetahuan agent anda sebenarnya masalah "mengingati apa yang sudah berlaku" dan bukan masalah "mencari dokumen", Memori AI Agent membincangkan sisi itu secara langsung. Dan sebaik sahaja perolehan semula disambungkan, cara menilai dan menguji AI agent merangkumi cara menangkap perolehan semula yang buruk atau petikan yang direka-reka sebelum ia sampai kepada pelanggan.