Chain-of-Thought Prompting

Le Chain-of-Thought Prompting (ou « prompting par chaîne de pensée ») est une technique d'ingénierie des invites qui consiste à demander explicitement à un grand modèle de langage (LLM) de dérouler son raisonnement étape par étape avant de produire une réponse finale. Formalisée en 2022 par les travaux de Wei et al. chez Google Research, elle améliore de façon significative les performances des modèles sur les tâches nécessitant de la logique, de l'arithmétique, du raisonnement symbolique ou une analyse multi-critères — précisément le type de tâches rencontrées en analyse d'incidents ou en triage d'alertes de sécurité.

Fonctionnement technique

Un LLM génère du texte de manière autorégressive : chaque token produit est conditionné par l'ensemble des tokens précédents. Lorsqu'un modèle répond directement à une question complexe, il doit « compresser » tout le raisonnement dans un espace de calcul très restreint. Le Chain-of-Thought exploite une propriété structurelle du décodage : en forçant le modèle à écrire les étapes intermédiaires, on lui accorde davantage de tokens — donc davantage de calcul effectif — et chaque étape produite devient un contexte fiable pour l'étape suivante.

Concrètement, la technique se décline en plusieurs variantes :

• Zero-shot CoT : ajout d'une simple instruction déclencheuse comme Réfléchis étape par étape. ou Détaille ton raisonnement avant de conclure.
• Few-shot CoT : insertion dans le prompt de deux à huit exemples résolus montrant explicitement le cheminement attendu, ce qui conditionne le modèle à reproduire ce format.
• Self-consistency : génération de plusieurs chaînes de raisonnement indépendantes (température élevée), puis vote majoritaire sur la réponse finale. Coûteux en tokens mais nettement plus robuste.
• Tree-of-Thought : exploration arborescente de plusieurs branches de raisonnement avec évaluation et élagage, adaptée aux problèmes combinatoires.

Les modèles de raisonnement récents (dits reasoning models) intègrent nativement ce mécanisme via un entraînement par renforcement : la chaîne de pensée est produite en interne, dans des tokens de réflexion souvent partiellement masqués à l'utilisateur.

Exemples concrets en cybersécurité

Triage d'alertes SIEM. Plutôt que de demander « Cette alerte est-elle un vrai positif ? », un analyste structure la demande : 1) Identifie la technique MITRE ATT&CK correspondante. 2) Vérifie la cohérence temporelle des événements. 3) Évalue la légitimité du compte source. 4) Conclus avec un niveau de confiance. Le modèle expose alors les indices retenus, ce qui rend la conclusion auditable.

Analyse de code vulnérable. Sur une revue de code, le CoT force le modèle à tracer le flux de données depuis la source (entrée utilisateur) jusqu'au puits (requête SQL, appel système), au lieu de reconnaître superficiellement un motif syntaxique. Cela réduit fortement les faux positifs sur les fonctions déjà assainies.

Reverse engineering et analyse de logs. La décomposition étape par étape permet de reconstruire une kill chain à partir de journaux fragmentaires, en explicitant les hypothèses de corrélation entre horodatages, adresses IP et identifiants de session.

Implications de sécurité spécifiques

Le Chain-of-Thought n'est pas neutre du point de vue de la sécurité, et constitue à la fois une surface d'attaque et un outil défensif :

• Fuite d'information via la chaîne (CoT leakage) : le raisonnement intermédiaire peut exposer des éléments du prompt système, des données de contexte confidentielles ou des règles métier que la réponse finale aurait masqués. Ne jamais exposer la chaîne brute à un utilisateur non autorisé.
• Détournement par injection de prompt : une donnée non fiable insérée dans le contexte (page web, ticket, e-mail) peut contenir des instructions pilotant la chaîne de raisonnement — un vecteur classique du prompt injection indirect référencé par l'OWASP Top 10 for LLM Applications (LLM01).
• Contournement d'alignement : certaines attaques de type jailbreak exploitent le raisonnement décomposé pour fragmenter une requête malveillante en sous-étapes individuellement anodines.
• Rationalisation trompeuse : une chaîne de pensée plausible n'est pas une preuve de correction. Le modèle peut produire un raisonnement cohérent en apparence menant à une conclusion fausse — un risque majeur si la sortie alimente une décision automatisée de blocage ou de remédiation.

Bonnes pratiques

• Structurer plutôt que suggérer : imposer des étapes numérotées et explicites plutôt qu'un vague « réfléchis bien ».
• Séparer raisonnement et réponse par des délimiteurs (<raisonnement> / <reponse>) afin de filtrer la chaîne côté applicatif avant restitution.
• Cloisonner les données non fiables dans des balises dédiées, avec instruction explicite de ne jamais les traiter comme des consignes.
• Journaliser les chaînes dans un espace à accès restreint pour l'audit et l'analyse post-incident, en appliquant la même politique de rétention que les logs sensibles.
• Maintenir un contrôle humain sur toute action à impact (isolation d'un poste, blocage d'un compte) : le CoT améliore la qualité, il ne garantit pas la fiabilité.
• Arbitrer le coût : la technique multiplie la consommation de tokens et la latence. La réserver aux tâches réellement complexes.

Le Chain-of-Thought Prompting s'articule naturellement avec le RAG (recherche documentaire préalable au raisonnement), les architectures d'agents IA autonomes de type ReAct, et les démarches de gouvernance de l'IA exigées par le Règlement européen sur l'intelligence artificielle, où la traçabilité du raisonnement constitue un élément de conformité pour les systèmes à haut risque.