Aller au contenu principal
Expert Cybersécurité & IAv9.0
Centres de ressources conformité
Besoin d'un accompagnement expert ?
Devis personnalisé sous 24h — audit, conformité, incident
Outils open source — Gratuits, portables, hors ligne
Caractéristiques communes
100 % hors ligne — aucune donnée transmise
Portables — un seul fichier exécutable
Gratuits — MIT ou GPL v3
Code source ouvert sur GitHub
Checklists Sécurité — Audit & Durcissement
Formats disponibles
📄 PDF 📊 Excel 🌐 Web

11 checklists professionnelles couvrant 2 200+ points de contrôle. Téléchargement gratuit, aucune inscription.

Academy Contact

Jailbreak LLM

ia

Définition

Un jailbreak LLM est une technique d'attaque visant à contourner délibérément les mécanismes d'alignement de sécurité, les filtres de contenu et les restrictions éthiques intégrés à un modèle de langage lors de son entraînement, dans le but de lui faire produire des contenus normalement bloqués : instructions pour des activités malveillantes ou illégales, contenus dangereux ou offensants, ou divulgation d'informations que le modèle est censé refuser de communiquer. Les techniques les plus documentées incluent le roleplay, où l'attaquant demande au modèle d'incarner un personnage fictif explicitement dépourvu de restrictions éthiques, exploitant la tendance du modèle à maintenir la cohérence narrative du personnage endossé au détriment de ses consignes de sécurité initiales, la persona DAN (Do Anything Now), une variante popularisée de ce même principe formalisée sous un nom identifiable et largement diffusée dans des communautés en ligne, l'encodage ou l'obfuscation de la requête malveillante sous une forme moins directement détectable par les filtres, base64, langage codé ou traduction dans une langue peu représentée dans les données d'alignement, et l'accumulation progressive de contexte, où une série de requêtes en apparence anodines construit graduellement un contexte conduisant le modèle à accepter une requête finale qu'il aurait refusée si posée directement. Cette menace constitue un axe de recherche continu en LLM red teaming.

Description

Un jailbreak LLM est une technique visant à contourner les alignements de sécurité et filtres de contenu d'un LLM pour lui faire produire des contenus normalement interdits. Les techniques incluent le roleplay, le DAN, l'injection via encodages, le many-shot jailbreaking et les jailbreaks automatisés (GCG, AutoDAN).

Fonctionnement

Les jailbreaks exploitent le conflit entre les objectifs d'utilité (suivre les instructions) et de sécurité (refuser les contenus nuisibles). Des techniques de gradient optimization (GCG) trouvent automatiquement des suffixes adversariaux universels qui contournent les guardrails sur différents modèles.

Points clés

  • L'OWASP LLM Top 10 classe le jailbreak sous LLM01 (Prompt Injection) comme risque majeur des applications LLM
  • Le red teaming LLM évalue systématiquement la robustesse des guardrails face aux techniques de jailbreak connues
  • Les defenses incluent les guardrails indépendants du system prompt, la détection d'intention et le Constitutional AI

Articles liés

Un projet cybersécurité ?

Expert dispo · Réponse 24h

Devis