Temperature (LLM)

Définition

La température est un paramètre de configuration des grands modèles de langage qui contrôle le degré d'aléa introduit lors de la génération du texte de sortie, en modulant la distribution de probabilité utilisée pour sélectionner chaque mot successif. Une température basse, proche de zéro, favorise les tokens les plus probables, produisant des réponses déterministes, cohérentes et reproductibles, adaptées à des tâches nécessitant précision et fiabilité, comme l'analyse de code ou la classification. Une température élevée augmente la diversité des choix possibles, produisant des réponses plus créatives et variées, mais également plus susceptibles de s'éloigner des faits ou de produire des hallucinations, c'est-à-dire des affirmations plausibles mais incorrectes. Ce paramètre, bien que technique, a une implication directe pour la sécurité et la fiabilité des applications d'IA générative en entreprise : une température mal calibrée sur un cas d'usage sensible, comme l'analyse de journaux de sécurité ou la génération de code de production, augmente le risque de résultats erronés non détectés par l'utilisateur final. En pratique défensive, il convient de fixer une température basse pour les cas d'usage nécessitant une exactitude factuelle stricte, de documenter systématiquement les paramètres utilisés dans les applications critiques, et de maintenir une supervision humaine sur les sorties générées avant toute action automatisée découlant de la réponse du modèle.