Reglage fin complet

Définition

Le reglage fin complet (full fine-tuning) est une methode d'adaptation d'un modele de langage pre-entraine a une tache ou un domaine specifique qui consiste a mettre a jour l'integralite des parametres du reseau de neurones durant une phase d'entrainement supplementaire sur un jeu de donnees cible, par retropropagation du gradient classique. Contrairement aux methodes de reglage fin efficace en parametres (PEFT) comme LoRA, qui n'entrainent qu'une fraction reduite des poids, le reglage fin complet necessite de stocker et mettre a jour l'ensemble des parametres, ce qui represente un cout memoire GPU considerable : pour un modele de 7 milliards de parametres, l'entrainement complet avec optimiseur Adam requiert generalement plus de 100 Go de VRAM en comptant les etats de l'optimiseur, les gradients et les poids. Cette approche offre generalement la meilleure performance finale sur la tache cible, car elle permet au modele de reajuster profondement sa representation interne, mais au prix d'un risque accru d'oubli catastrophique des capacites generales acquises lors du pre-entrainement. Pour un DSI arbitrant un projet d'adaptation d'un LLM aux donnees internes de l'entreprise, le reglage fin complet reste reserve aux cas ou les ressources de calcul sont disponibles et ou la performance maximale prime sur le cout, les alternatives PEFT etant privilegiees dans la majorite des projets d'entreprise.