Meta-Learning (Few-Shot Learning)

Définition

Le Meta-Learning (apprendre a apprendre) est un paradigme d'apprentissage machine dont l'objectif est de developper des modeles capables de s'adapter rapidement a de nouvelles taches avec tres peu d'exemples, en s'appuyant sur l'experience accumulee sur de nombreuses taches similaires. La meta-experience est 'comment apprendre efficacement' plutot que 'comment accomplir une tache specifique'. MAML (Model-Agnostic Meta-Learning, Finn et al. 2017) est l'algorithme de meta-learning le plus influent : il optimise les parametres initiaux du modele pour qu'une ou quelques etapes de gradient descent suffisent a s'adapter a une nouvelle tache. MAML a influence de nombreuses architectures subsequentes en robotique, vision, et NLP. Dans le contexte des LLMs, le meta-learning est etroitement lie au few-shot in-context learning : les LLMs pre-entraines sur de larges corpus peuvent s'adapter a de nouvelles taches avec quelques exemples dans le prompt (1-shot, 5-shot). Cette capacite peut etre vue comme une forme de 'meta-learning emerge' : le modele a appris, pendant le pre-entrainement, a identifier rapidement le pattern d'une nouvelle tache depuis des exemples. Des techniques comme Prompt Tuning et In-Context Learning peuvent etre formalisees comme du meta-learning : les soft prompts (Prompt Tuning) sont des parametres meta-appris qui permettent d'adapter le LLM a un domaine specifique. Les Adapters et LoRA peuvent aussi etre vus comme du meta-learning ou les poids des adapters sont les 'parametres d'adaptation rapide'. Le meta-learning est particulierement pertinent pour les cas d'usage enterprise ou les entreprises ont des taches tres specifiques avec peu de donnees (classification de types de tickets clients specifique, extraction d'entites de documents proprietaires). Les approches de meta-learning permettent d'adapter les LLMs a ces taches avec quelques dizaines d'exemples plutot que des milliers.