Retrieval (RAG)

Définition

Le Retrieval, composant central d'un pipeline RAG (Retrieval-Augmented Generation), désigne l'étape qui consiste à récupérer automatiquement, depuis une base de connaissances externe, les documents ou fragments de texte les plus pertinents par rapport à une requête utilisateur, avant de les fournir en contexte à un grand modèle de langage pour générer sa réponse finale. Concrètement, chaque document de la base de connaissances est préalablement découpé en fragments (chunking) puis converti en un vecteur numérique dense, appelé embedding, capturant sa signification sémantique via un modèle d'encodage dédié ; ces vecteurs sont stockés dans une base de données vectorielle spécialisée comme Pinecone, Weaviate, Qdrant ou l'extension pgvector de PostgreSQL. Au moment de la requête, la question de l'utilisateur est elle-même convertie en embedding, puis comparée à l'ensemble des vecteurs de la base via une mesure de similarité, typiquement la similarité cosinus, pour identifier les fragments les plus proches sémantiquement, retournés dans un ordre de pertinence décroissante. Cette architecture permet à un LLM de répondre en s'appuyant sur des informations à jour, propriétaires ou spécifiques à un domaine, absentes de ses données d'entraînement d'origine, tout en réduisant significativement le risque d'hallucination puisque la réponse peut être ancrée et vérifiable par rapport aux sources récupérées, citées explicitement dans de nombreuses implémentations.