Enrichissement de chunk par contexte

Définition

L'enrichissement de chunk par contexte, ou contextual retrieval, est une technique qui consiste a ajouter automatiquement, avant indexation, une courte description de contexte generee par un modele de langage a chaque fragment de texte extrait d'un document, afin de compenser la perte d'information qui survient lorsqu'un chunk est isole du reste du document dont il est issu. Cette approche, popularisee par Anthropic en 2024, utilise un modele de langage pour lire l'ensemble du document et generer, pour chaque fragment, quelques phrases qui situent explicitement ce fragment dans son contexte global, par exemple en precisant a quelle entreprise, periode ou section du document il se rapporte, avant de calculer l'embedding sur ce fragment enrichi plutot que sur le texte brut original. L'objectif est de reduire les erreurs de recherche vectorielle causees par des fragments trop ambigus une fois separes de leur document source, un probleme frequent avec des pronoms, des references implicites ou des termes qui ne prennent leur sens qu'a la lecture du document entier. Les evaluations publiees montrent des ameliorations mesurables du taux d'echec de recherche dans des benchmarks RAG lorsque cette technique est combinee a la recherche hybride et au reclassement. Le cout additionnel provient des appels supplementaires au modele de langage necessaires pour generer le contexte de chaque fragment lors de l'indexation, un cout ponctuel qui peut etre reduit grace a la mise en cache de prompt.