Apprentissage par curriculum

Définition

L'apprentissage par curriculum (curriculum learning) est une strategie d'entrainement des modeles d'apprentissage automatique qui consiste a presenter les exemples d'entrainement dans un ordre structure, generalement du plus simple au plus complexe, plutot que dans un ordre aleatoire, par analogie avec la pedagogie humaine progressive. Introduite formellement par Bengio et al. en 2009, cette approche s'appuie sur l'hypothese qu'un modele converge plus rapidement et atteint un meilleur optimum en construisant d'abord des representations robustes sur des taches ou exemples faciles avant d'aborder des cas plus ambigus ou complexes. En pratique, la difficulte d'un exemple peut etre mesuree par sa longueur, sa perte (loss) sous un modele deja entraine, ou des criteres specifiques au domaine (complexite syntaxique d'un texte, bruit d'une image). Cette methode est appliquee a l'entrainement de grands modeles de langage, notamment pour structurer l'exposition progressive a du code, des mathematiques ou des raisonnements complexes, et se retrouve egalement dans l'apprentissage par renforcement pour la robotique, ou la difficulte de l'environnement est augmentee graduellement. Pour un ingenieur ML concevant un pipeline de fine-tuning specialise, structurer les donnees d'entrainement selon un curriculum peut ameliorer la stabilite de l'entrainement et reduire le nombre d'iterations necessaires pour atteindre une performance cible, notamment sur des jeux de donnees heterogenes en qualite ou en complexite.