Température / Sampling LLM

Définition

La température (temperature) est un hyperparamètre de sampling contrôlant la créativité et l'aléatoire des sorties d'un LLM lors de l'inférence. Elle ajuste la distribution de probabilité des tokens avant l'échantillonnage : une température proche de 0 rend le modèle déterministe (toujours le token le plus probable, greedy decoding), tandis qu'une température élevée (1.0 à 2.0) aplatit la distribution et génère des sorties plus créatives mais moins précises. En complément, top-p (nucleus sampling) limite l'échantillonnage aux tokens couvrant une probabilité cumulée p (typiquement 0.9-0.95), et top-k restreint aux k tokens les plus probables. Pour les tâches de cybersécurité nécessitant exactitude et reproductibilité (génération de règles, analyse forensique, extraction d'IoC), une température basse (0 à 0.3) est recommandée. Pour la génération créative de scénarios d'attaque ou de rapports de threat intelligence, une température modérée (0.7-1.0) produit des résultats plus variés et moins prévisibles. Le paramètre seed permet la reproductibilité à température fixe dans certaines API.