RAG este o tehnică prin care un model de limbaj este conectat la o bază de date sau documente externe, din care extrage informații relevante înainte de a genera un răspuns, în loc să se bazeze exclusiv pe cunoștințele memorate în timpul antrenării.
Practic, atunci când primește o întrebare, sistemul caută mai întâi documentele cele mai relevante (folosind embeddings), apoi le oferă modelului AI ca „context suplimentar”, pe baza căruia acesta formulează un răspuns mai precis și mai actualizat.
Această tehnică este esențială pentru companiile care vor ca un asistent AI să răspundă corect despre informații interne, specifice (politici, produse, documentație tehnică), fără a fi nevoie de reantrenarea completă a modelului.
Avantajul major este reducerea semnificativă a halucinațiilor și posibilitatea de a actualiza cunoștințele sistemului rapid, doar prin actualizarea bazei de documente. Dezavantajul este dependența de calitatea procesului de căutare — dacă informațiile relevante nu sunt găsite corect, răspunsul rămâne incomplet sau incorect.
RAG este, în 2026, una dintre cele mai populare metode prin care companiile transformă documentele proprii într-o bază de cunoștințe interogabilă prin AI.