Reglage fin efficace en parametres

Définition

Le reglage fin efficace en parametres (Parameter-Efficient Fine-Tuning, PEFT) designe une famille de methodes qui adaptent un modele de langage pre-entraine a une tache specifique en n'entrainant qu'une fraction reduite de ses parametres, generalement entre 0,1 % et 3 % du total, tout en gelant la quasi-totalite des poids originaux. Les methodes les plus repandues incluent LoRA (Low-Rank Adaptation), qui insere des matrices de faible rang entrainables dans les couches d'attention, les adaptateurs (Adapters), qui ajoutent de petits modules entre les couches existantes, et le prompt tuning ou prefix tuning, qui optimise des vecteurs continus places en entree du modele. Ces approches, developpees notamment par Houlsby et al. (2019) pour les adaptateurs et Hu et al. (2021) pour LoRA, reduisent drastiquement les besoins en memoire GPU (parfois par un facteur de 3 a 10) et en stockage, puisque seuls les poids additionnels legers doivent etre sauvegardes par tache, permettant de deployer de nombreuses variantes specialisees d'un meme modele de base. Le PEFT limite egalement le risque d'oubli catastrophique par rapport au reglage fin complet. Pour un DSI, le PEFT constitue aujourd'hui l'approche par defaut recommandee pour adapter un LLM open source aux donnees et au vocabulaire d'une entreprise, offrant un compromis cout-performance nettement plus favorable qu'un reglage fin complet dans la grande majorite des projets.