Prompt Injection

Définition

La Prompt Injection est une classe d'attaques ciblant les systèmes d'IA conversationnels, classée LLM01 dans le référentiel OWASP LLM Top 10 en raison de sa criticité et de sa prévalence, consistant à insérer des instructions malveillantes dans les données traitées par un modèle de langage afin de contourner ses consignes initiales définies par le system prompt, d'extraire des informations confidentielles présentes dans son contexte, ou de lui faire exécuter des actions non autorisées lorsqu'il dispose de capacités d'action via des outils. On distingue les injections directes, où l'utilisateur manipule lui-même explicitement son propre prompt pour tenter de contourner les restrictions imposées au modèle, typiquement dans un contexte de jailbreak, des injections indirectes, considérées comme structurellement plus dangereuses car l'instruction malveillante est dissimulée dans un contenu externe traité passivement par le modèle, un document, une page web ou un email, sans que l'utilisateur légitime n'en ait connaissance ni n'ait donné son consentement. Cette dernière variante est particulièrement critique pour les agents IA disposant d'un accès à des outils, où une instruction cachée dans un document consulté peut détourner l'agent vers une action malveillante non voulue par l'opérateur. La défense combine des guardrails d'entrée et de sortie, une séparation stricte entre instructions système et données traitées, et une limitation stricte des permissions accordées.