Sécuriser un Pipeline RAG : Du Vector Store à l'API

La majorité des déploiements RAG en production négligent la sécurité au profit de la fonctionnalité. Les preuves de concept développées avec un accès ouvert au vector store et sans validation des documents ingérés sont mises en production sans ajout des contrôles de sécurité nécessaires. Cette dette de sécurité expose les organisations à des risques considérables : un employé peut accéder via le chatbot IA à des documents confidentiels auxquels il n'a pas accès directement, un attaquant peut empoisonner la base de connaissances en injectant des documents malveillants dans les sources d'ingestion, et les données sensibles récupérées par le retriever peuvent être exfiltrées vers des serveurs externes via des techniques de prompt injection indirecte. Les attaques d'exfiltration de données via RAG démontrent l'ampleur des risques. La méthodologie d'AI Red Team permet d'identifier ces vulnérabilités avant leur exploitation. L'architecture fondamentale du RAG (Retrieval-Augmented Generation) doit être comprise pour appliquer les contrôles au bon endroit. Les défenses contre la prompt injection avancée protègent le module de génération. Les bonnes pratiques de sécurité LangChain et les recommandations de sécurité Pinecone fournissent les bases techniques des implémentations présentées dans ce guide complet.

Sécuriser l'ingestion des documents

Le pipeline d'ingestion sécurisée implémente quatre contrôles avant l'indexation de tout document dans le vector store. Le contrôle de provenance vérifie que le document provient d'une source autorisée (dossier partagé validé, API d'entreprise authentifiée, upload par un utilisateur habilité) via des métadonnées de traçabilité (auteur, date, source, hash SHA-256). Le scan de contenu analyse le document pour détecter les patterns de prompt injection cachés (texte invisible, instructions dans les métadonnées, commentaires PDF malveillants) en utilisant les techniques de détection présentées dans les guides de sécurité des LLM.

La classification automatique étiquette chaque document avec un niveau de sensibilité (public, interne, confidentiel, restreint) et des métadonnées de contrôle d'accès (département, projet, rôle requis) qui seront utilisées par le module de retrieval pour filtrer les résultats. Le chunking sécurisé veille à ce que les segments de document (chunks) conservent les métadonnées d'origine et ne créent pas de fragments décontextualisés qui pourraient révéler des informations sensibles hors de leur contexte original. L'intégration avec la classification automatique des données sensibles permet d'étiqueter automatiquement les documents ingérés.

Contrôle d'accès au vector store

La segmentation du vector store est le contrôle de sécurité le plus important pour protéger les données dans un pipeline RAG. Trois architectures de segmentation sont couramment déployées. La segmentation par namespace crée des partitions isolées dans le même index vectoriel (supportée nativement par Pinecone et Qdrant). La segmentation par collection utilise des index séparés avec des politiques d'accès distinctes (approche recommandée pour les données hautement confidentielles). La segmentation par filtrage de métadonnées utilise un index unique avec des filtres d'accès appliqués dynamiquement à chaque requête (approche la plus flexible mais la moins sécurisée car un bug de filtrage expose toutes les données).

Le middleware d'authentification intercepte chaque requête de recherche vectorielle pour injecter les filtres d'accès basés sur l'identité de l'utilisateur authentifié. Le token JWT de l'utilisateur contient ses rôles et son département, le middleware traduit ces attributs en filtres de namespace ou de métadonnées appliqués à la requête vectorielle avant son exécution. Ce pattern garantit que même si l'application front-end est compromise, les requêtes au vector store restent limitées aux documents autorisés car le filtrage s'effectue côté serveur dans le middleware, implémentant le principe du moindre privilège au niveau de la couche données.

Filtrage du retrieval et validation de la génération

Le module de retrieval sécurisé implémente trois contrôles sur les documents récupérés avant leur injection dans le contexte du LLM. Le post-filtrage vérifie que les métadonnées de classification de chaque document récupéré correspondent aux droits de l'utilisateur (double vérification après le filtrage du vector store). Le scoring de pertinence élimine les résultats dont le score de similarité est inférieur au seuil configuré (typiquement 0.7) pour éviter l'injection de contenu non pertinent qui pourrait contenir des instructions empoisonnées. La diversification des résultats limite le nombre de documents provenant de la même source pour empêcher un attaquant de saturer le contexte avec des documents empoisonnés ciblant un sujet spécifique.

La validation de la génération constitue la dernière couche de défense avant la livraison de la réponse à l'utilisateur. Le filtre DLP analyse la réponse générée pour détecter et masquer les données sensibles (PII, numéros de carte, secrets techniques) qui ne devraient pas être exposées à l'utilisateur. Le filtre d'exfiltration bloque les URLs externes et les patterns d'encodage de données dans le contenu généré pour empêcher l'exfiltration silencieuse via le rendu markdown. La validation de cohérence compare la réponse aux documents source pour détecter les hallucinations et les manipulations qui dévient du contenu factuel récupéré par le retriever.

Monitoring et détection d'anomalies

Le monitoring de sécurité du pipeline RAG surveille les métriques clés à chaque composant. Le volume de requêtes par utilisateur détecte les tentatives d'extraction systématique (un utilisateur posant 200 questions en une heure sur des sujets variés). La distribution des namespaces accédés identifie les requêtes ciblant des documents hors périmètre professionnel habituel. Le ratio de documents récupérés par rapport aux documents filtrés mesure les tentatives de contournement des contrôles d'accès. Le score de similarité moyen des résultats de recherche détecte les requêtes adversariales optimisées pour récupérer des documents spécifiques.

L'intégration avec un SIEM centralise les alertes RAG avec les autres événements de sécurité pour une corrélation contextuelle. Un pic de requêtes sur un sujet sensible coïncidant avec un accès VPN inhabituel ou une connexion depuis un pays non autorisé constitue un indicateur de compromission composite que le monitoring RAG seul ne peut pas identifier. Les alertes sont classifiées par sévérité : information (volume de requêtes légèrement supérieur à la moyenne), avertissement (accès à des documents hors périmètre), critique (pattern d'exfiltration détecté ou tentative d'empoisonnement du vector store).

Conclusion

La sécurisation d'un pipeline RAG nécessite des contrôles à chaque couche : validation des documents à l'ingestion, segmentation du vector store par rôle, filtrage des résultats de recherche, validation de la génération et monitoring continu. L'architecture de sécurité doit être intégrée dès la conception pour garantir la confidentialité des données d'entreprise accessibles via le LLM en production.

Sécurisez vos déploiements IA

Audit LLM, conformité AI Act, évaluation d'impact IA, Red Team IA — par un expert certifié.

Audit IA — Devis sous 24h [email protected]