Apprentissage continu

Définition

L'apprentissage continu (continual learning ou lifelong learning) est un paradigme d'apprentissage automatique dans lequel un modele acquiert de nouvelles connaissances ou competences de maniere sequentielle, a partir de flux de donnees successifs, sans avoir acces a l'integralite des donnees precedentes et sans reentrainement complet depuis zero. L'enjeu central de l'apprentissage continu est de preserver les performances sur les taches anterieures tout en integrant de nouvelles informations, un equilibre connu sous le nom de compromis stabilite-plasticite. Les principales familles de methodes incluent les approches par regularisation (comme Elastic Weight Consolidation, qui penalise la modification des poids importants pour les taches passees), les approches par replay (rejouer un echantillon de donnees anciennes durant le nouvel entrainement) et les approches architecturales (ajouter des modules dedies aux nouvelles taches sans modifier les parametres existants, a l'image de certaines methodes PEFT). Dans le contexte des grands modeles de langage, l'apprentissage continu est un enjeu majeur pour maintenir un assistant a jour avec des informations recentes ou des connaissances internes a une entreprise sans reentrainement complet, extremement couteux. Pour un DSI, l'absence de solution mature et generalisee d'apprentissage continu explique pourquoi la mise a jour des connaissances d'un LLM en production repose aujourd'hui majoritairement sur des approches externes comme le RAG plutot que sur un reentrainement incremental du modele lui-meme.