Fine-tuning

Définition

Le fine-tuning est la phase de spécialisation d'un modèle d'intelligence artificielle déjà pré-entraîné, qui poursuit son entraînement sur un jeu de données restreint et spécifique à un domaine ou une tâche particulière, plutôt que de repartir d'un modèle initialisé aléatoirement, exploitant ainsi les connaissances générales déjà acquises lors du pré-entraînement initial sur des corpus massifs. On distingue plusieurs approches selon l'ampleur des paramètres réellement mis à jour : le full fine-tuning, qui réentraîne l'intégralité des poids du modèle, offrant la plus grande flexibilité d'adaptation mais nécessitant des ressources computationnelles considérables proportionnelles à la taille totale du modèle, le fine-tuning paramétrique efficace (PEFT), regroupant des techniques comme LoRA, QLoRA, Prefix Tuning ou les Adapter Layers, qui gèlent la quasi-totalité des poids originaux et n'entraînent qu'un nombre restreint de paramètres additionnels, réduisant drastiquement le coût mémoire et de calcul tout en préservant des performances proches du full fine-tuning, et l'instruction tuning, qui aligne spécifiquement le modèle sur des paires d'instructions et de réponses souhaitées afin d'améliorer sa capacité à suivre des consignes explicites plutôt que de simplement compléter du texte. Le choix de la méthode dépend directement du budget de calcul disponible et du degré de spécialisation métier requis pour l'application ciblée.