Tree-of-Thought

Définition

Le Tree-of-Thought (arbre de pensée) est une technique de raisonnement avancée pour les grands modèles de langage, étendant le principe du chain-of-thought en permettant au modèle d'explorer simultanément plusieurs chemins de raisonnement alternatifs organisés sous forme d'une structure arborescente, plutôt que de générer une unique séquence de raisonnement linéaire et irréversible du début à la fin comme dans l'approche chain-of-thought classique. Concrètement, à chaque étape intermédiaire de résolution d'un problème complexe, le modèle génère plusieurs pensées candidates distinctes représentant différentes approches ou hypothèses possibles pour progresser, chacune évaluée selon un critère de pertinence ou de vraisemblance de mener à une solution correcte, les branches les moins prometteuses étant élaguées tandis que les plus prometteuses sont approfondies récursivement, un principe algorithmique proche des méthodes de recherche arborescente classiques comme le parcours en largeur ou en profondeur utilisées en intelligence artificielle symbolique. Cette exploration parallèle permet au modèle de revenir en arrière (backtracking) lorsqu'un chemin s'avère être une impasse, capacité absente du chain-of-thought séquentiel où une erreur précoce se propage irrémédiablement jusqu'à la conclusion finale. La technique améliore significativement les performances sur des tâches nécessitant une planification complexe, une exploration combinatoire ou une résolution de problèmes à solutions multiples, au prix d'un coût computationnel nettement supérieur du fait de la génération et de l'évaluation de multiples branches candidates simultanément.