RAG conversationnel avec memoire

Définition

Le RAG conversationnel avec memoire est une architecture qui combine la recuperation d'information documentaire avec la conservation du contexte d'un echange multi-tours, permettant a un assistant base sur un modele de langage de repondre a des questions qui font reference implicitement a des elements evoques precedemment dans la conversation. Sans ce mecanisme, chaque question soumise a un pipeline RAG standard est traitee de facon isolee, ce qui echoue lorsque l'utilisateur pose une question de suivi elliptique, par exemple et pour l'annee derniere, sans repeter le contexte complet. Le systeme doit donc reformuler la requete en integrant l'historique conversationnel pertinent, souvent via une etape de reecriture de requete pilotee par un modele de langage, avant de lancer la recherche dans la base de connaissances vectorielle. La memoire peut etre geree de differentes facons: memoire complete de la conversation dans la fenetre de contexte pour les echanges courts, ou memoire resumee et compressee au-dela d'un certain nombre de tours pour eviter de saturer la limite de contexte du modele. Pour un assistant d'entreprise deploye en support client ou en aide interne, ce mecanisme est indispensable a une experience utilisateur fluide, mais il complexifie la gestion de la confidentialite, l'historique conversationnel pouvant contenir des informations personnelles a proteger conformement au RGPD.