Oubli catastrophique

Définition

L'oubli catastrophique (catastrophic forgetting) est un phenomene par lequel un reseau de neurones perd brutalement les performances acquises sur des taches ou connaissances anterieures lorsqu'il est entraine sequentiellement sur de nouvelles donnees ou taches, un probleme documente des les travaux de McCloskey et Cohen en 1989 sur les reseaux connexionnistes. Ce phenomene decoule du fait que les poids du reseau, partages entre toutes les taches apprises, sont reajustes par retropropagation du gradient pour minimiser l'erreur sur les nouvelles donnees, sans mecanisme natif de protection des parametres critiques pour les taches precedentes. Dans le contexte des grands modeles de langage, l'oubli catastrophique se manifeste typiquement lors d'un reglage fin complet sur un domaine etroit (juridique, medical) : le modele gagne en precision sur ce domaine mais peut degrader ses capacites generalistes (conversation, raisonnement general, connaissances larges) acquises lors du pre-entrainement. Ce risque est l'une des principales justifications du recours aux methodes de reglage fin efficace en parametres (PEFT, LoRA), qui gelent la majorite des poids originaux et limitent ainsi l'ampleur de l'oubli. Pour un DSI planifiant l'adaptation d'un modele aux donnees internes de l'entreprise, evaluer systematiquement les performances du modele fine-tune sur des benchmarks generalistes, en plus du benchmark metier cible, permet de detecter une regression liee a l'oubli catastrophique avant mise en production.