Température / Sampling LLM
iaDéfinition
La température (temperature) est un hyperparamètre de sampling contrôlant la créativité et l'aléatoire des sorties d'un LLM lors de l'inférence. Elle ajuste la distribution de probabilité des tokens avant l'échantillonnage : une température proche de 0 rend le modèle déterministe (toujours le token le plus probable, greedy decoding), tandis qu'une température élevée (1.0 à 2.0) aplatit la distribution et génère des sorties plus créatives mais moins précises. En complément, top-p (nucleus sampling) limite l'échantillonnage aux tokens couvrant une probabilité cumulée p (typiquement 0.9-0.95), et top-k restreint aux k tokens les plus probables. Pour les tâches de cybersécurité nécessitant exactitude et reproductibilité (génération de règles, analyse forensique, extraction d'IoC), une température basse (0 à 0.3) est recommandée. Pour la génération créative de scénarios d'attaque ou de rapports de threat intelligence, une température modérée (0.7-1.0) produit des résultats plus variés et moins prévisibles. Le paramètre seed permet la reproductibilité à température fixe dans certaines API.
Description
La température est un hyperparamètre de sampling contrôlant la créativité et l'aléatoire des sorties d'un LLM. Elle ajuste la distribution de probabilité des tokens : proche de 0 pour un comportement déterministe, élevée (1.0-2.0) pour des sorties créatives et diversifiées mais moins précises.
Fonctionnement
La température divise les logits avant le softmax : logits_scaled = logits/T. Des valeurs basses concentrent la probabilité sur les tokens les plus probables (greedy-like). Top-p (nucleus sampling) et top-k complètent la température pour contrôler finement la diversité du sampling.
Points clés
- Température 0 à 0.3 recommandée pour les tâches cybersécurité nécessitant précision et reproductibilité
- Température 0.7 à 1.0 pour la génération créative de scénarios d'attaque ou rapports de threat intelligence variés
- Le paramètre seed garantit la reproductibilité à température fixe pour les tests de régression et les audits IA
Articles liés
Expert en cybersécurité offensive et intelligence artificielle. Pentest, audit et développement IA sur-mesure.
Services
- Audit Infrastructure
- Audit Kubernetes
- Audit Microsoft 365
- Audit Sécurité Réseau
- Analyse de Risques
- Audit Active Directory
- Audit Application Web
- Audit Cloud (AWS/Azure/GCP)
- Audit Messagerie
- Audit API (OWASP Top 10)
- Audit DevSecOps & CI/CD
- Audit Code Source (SAST)
- Audit Postes de Travail
- Audit Sauvegarde & Résilience
- Audit OT/SCADA (IEC 62443)
- Développement IA
- Formations
Ressources
Projets & Outils
© 2026 Ayi NEDJIMI Consultants. Tous droits réservés.
Un projet cybersécurité ?
Expert dispo · Réponse 24h