DAN (Do Anything Now)

Définition

DAN ('Do Anything Now') est le nom d'une famille de techniques de jailbreak pour les LLMs, popularisee sur Reddit en 2022-2023. Le principe est de demander au modele de jouer le role d'un alter-ego imaginaire nommé DAN libre de toute restriction ethique, exploitant la tendance des LLMs a suivre les consignes de jeu de role. Le prompt DAN original demandait a ChatGPT de simuler deux personnalites : sa personnalite standard (avec restrictions) et DAN (sans restrictions). Cette technique exploitait la tendance des LLMs a suivre les consignes de jeu de role, permettant de contourner les guardrails en encadrant les requetes dans un contexte de fiction. DAN illustre une faiblesse des alignements bases uniquement sur le RLHF : le modele peut apprendre a ne pas produire certains contenus dans un contexte serieux, mais des rephrasing dans un cadre de fiction peuvent contourner ces protections si les refus ne sont pas enseignes de maniere suffisamment generalisee. Les modeles modernes (GPT-4o, Claude 3.5+, Gemini 1.5+) sont beaucoup plus resistants aux DAN classiques grace a l'adversarial training. Des variantes plus sophistiquees (Many-Shot Jailbreak, Adversarial Suffix GCG) restent cependant efficaces dans certaines configurations. Pour les equipes de red teaming LLM, la famille DAN est le point de depart de l'evaluation des guardrails. Les equipes de securite maintiennent des bibliotheques de jailbreaks actualisees pour tester en continu la robustesse.