RAG (Retrieval-Augmented Generation)

Définition

Le RAG (Retrieval-Augmented Generation) est une architecture hybride combinant un mécanisme de recherche documentaire dans une base de connaissances externe avec la capacité générative d'un grand modèle de langage, afin de produire des réponses factuelles ancrées dans un corpus spécifique plutôt que reposant uniquement sur les connaissances mémorisées par le modèle lors de son entraînement. Le pipeline standard convertit les documents source en embeddings vectoriels, les indexe dans une base vectorielle (Pinecone, Weaviate, Milvus, ou pgvector), puis, à chaque requête utilisateur, recherche les passages les plus pertinents par similarité sémantique avant de les injecter dans le contexte fourni au LLM pour générer la réponse finale. Cette architecture réduit significativement le risque d'hallucination et permet d'exposer des données propriétaires ou récentes sans réentraîner le modèle, un avantage majeur face au fine-tuning en termes de coût et d'actualisation continue du corpus. Le RAG est largement adopté pour les chatbots documentaires d'entreprise, les assistants de support technique et les systèmes de question-réponse sur bases juridiques ou réglementaires. Sur le plan sécurité, un RAG mal cloisonné expose un risque de fuite de données si le contrôle d'accès aux documents sources n'est pas répercuté au niveau de la recherche vectorielle, et reste vulnérable à l'injection de prompt indirecte via des documents empoisonnés insérés dans le corpus indexé.