Jailbreak LLM
iaDéfinition
Un jailbreak LLM est une technique d'attaque visant à contourner délibérément les mécanismes d'alignement de sécurité, les filtres de contenu et les restrictions éthiques intégrés à un modèle de langage lors de son entraînement, dans le but de lui faire produire des contenus normalement bloqués : instructions pour des activités malveillantes ou illégales, contenus dangereux ou offensants, ou divulgation d'informations que le modèle est censé refuser de communiquer. Les techniques les plus documentées incluent le roleplay, où l'attaquant demande au modèle d'incarner un personnage fictif explicitement dépourvu de restrictions éthiques, exploitant la tendance du modèle à maintenir la cohérence narrative du personnage endossé au détriment de ses consignes de sécurité initiales, la persona DAN (Do Anything Now), une variante popularisée de ce même principe formalisée sous un nom identifiable et largement diffusée dans des communautés en ligne, l'encodage ou l'obfuscation de la requête malveillante sous une forme moins directement détectable par les filtres, base64, langage codé ou traduction dans une langue peu représentée dans les données d'alignement, et l'accumulation progressive de contexte, où une série de requêtes en apparence anodines construit graduellement un contexte conduisant le modèle à accepter une requête finale qu'il aurait refusée si posée directement. Cette menace constitue un axe de recherche continu en LLM red teaming.
Description
Un jailbreak LLM est une technique visant à contourner les alignements de sécurité et filtres de contenu d'un LLM pour lui faire produire des contenus normalement interdits. Les techniques incluent le roleplay, le DAN, l'injection via encodages, le many-shot jailbreaking et les jailbreaks automatisés (GCG, AutoDAN).
Fonctionnement
Les jailbreaks exploitent le conflit entre les objectifs d'utilité (suivre les instructions) et de sécurité (refuser les contenus nuisibles). Des techniques de gradient optimization (GCG) trouvent automatiquement des suffixes adversariaux universels qui contournent les guardrails sur différents modèles.
Points clés
- L'OWASP LLM Top 10 classe le jailbreak sous LLM01 (Prompt Injection) comme risque majeur des applications LLM
- Le red teaming LLM évalue systématiquement la robustesse des guardrails face aux techniques de jailbreak connues
- Les defenses incluent les guardrails indépendants du system prompt, la détection d'intention et le Constitutional AI
Articles liés
Expert en cybersécurité offensive et intelligence artificielle. Pentest, audit et développement IA sur-mesure.
Services
- Audit Infrastructure
- Audit Kubernetes
- Audit Microsoft 365
- Audit Sécurité Réseau
- Analyse de Risques
- Audit Active Directory
- Audit Application Web
- Audit Cloud (AWS/Azure/GCP)
- Audit Messagerie
- Audit API (OWASP Top 10)
- Audit DevSecOps & CI/CD
- Audit Code Source (SAST)
- Audit Postes de Travail
- Audit Sauvegarde & Résilience
- Audit OT/SCADA (IEC 62443)
- Développement IA
- Formations
Ressources
Projets & Outils
© 2026 Ayi NEDJIMI Consultants. Tous droits réservés. 2.1.7
Un projet cybersécurité ?
Expert dispo · Réponse 24h