Fuite de prompt système

Définition

La fuite de prompt systeme, ou system prompt leak, est un incident de securite ou un utilisateur parvient a extraire le contenu des instructions confidentielles configurees en amont d'un grand modele de langage par son operateur - regles de comportement, contraintes metier, cle API integree par erreur, ou logique proprietaire d'un produit base sur un LLM. L'attaquant utilise generalement des techniques de prompt injection directe, comme demander au modele de repeter ses instructions initiales, de traduire son prompt systeme, ou de le formater differemment pour contourner les instructions explicites de non-divulgation qu'il pourrait contenir. Cette fuite expose plusieurs risques concrets : divulgation de secrets d'affaires si le prompt systeme contient une logique metier differenciante, facilitation d'attaques ulterieures plus ciblees une fois que l'attaquant connait precisement les regles et limites du systeme, et parfois exposition directe de secrets techniques comme des cles d'API mal isolees du prompt. L'OWASP LLM Top 10 recense ce risque sous la categorie sensitive information disclosure. La bonne pratique architecturale consiste a ne jamais considerer le prompt systeme comme un mecanisme de securite a lui seul : les secrets et cles d'acces doivent etre geres via des systemes dedies hors du contexte du modele, et les controles d'acces critiques doivent etre appliques au niveau applicatif, independamment du comportement du LLM.