Amorce d'inférence IA (prompt injection offensif)

Définition

L'amorce d'inférence IA, ou prompt injection offensif, désigne une technique consistant à insérer des instructions malveillantes dissimulées dans une entrée fournie à un système d'intelligence artificielle générative, souvent au sein d'un contenu apparemment anodin qu'une application intègre automatiquement dans son contexte de traitement, comme un document, une page web ou un email, dans le but de détourner le comportement du modèle de son objectif légitime initial, contourner des instructions de sécurité définies par le déployeur de l'application, ou l'inciter à divulguer des informations sensibles auxquelles il a accès dans son contexte de fonctionnement. Cette technique devient particulièrement critique lorsque le système d'intelligence artificielle dispose d'une capacité d'action réelle sur des systèmes tiers, comme l'envoi d'emails, l'exécution de requêtes vers une base de données ou l'appel d'outils externes, transformant une manipulation purement conversationnelle en un vecteur d'impact opérationnel concret sur l'organisation déployant le système. Contrairement aux vulnérabilités logicielles classiques, cette faiblesse découle d'une caractéristique structurelle des modèles de langage actuels, l'absence de séparation stricte entre instructions de confiance et contenu traité. Pour les équipes de sécurité, les contre-mesures incluent la limitation stricte des privilèges accordés à tout système d'intelligence artificielle intégré à des outils d'action, la validation systématique de toute action sensible par un humain, et une journalisation détaillée des entrées et sorties du système pour détecter une tentative de manipulation.