Adaptation de domaine (Domain Adaptation)

Définition

L'adaptation de domaine est un ensemble de techniques d'apprentissage automatique qui visent à transférer les performances d'un modèle entraîné sur un domaine source vers un domaine cible différent, lorsque la distribution des données change entre les deux, un phénomène appelé décalage de distribution ou domain shift. Pour les modèles de langage, l'adaptation de domaine consiste typiquement à poursuivre l'entraînement sur un corpus spécialisé, juridique, médical ou technique en cybersécurité, ou à appliquer un fine-tuning léger par adaptateurs comme LoRA sur des données représentatives du domaine cible. Les approches non supervisées d'adaptation de domaine, développées notamment en vision par ordinateur, cherchent à aligner les représentations internes du modèle entre domaine source et domaine cible sans disposer d'étiquettes dans ce dernier, par exemple via des techniques d'apprentissage adversarial qui rendent les caractéristiques extraites indiscernables entre les deux domaines. En entreprise, l'adaptation de domaine permet de spécialiser un modèle généraliste pour un vocabulaire métier précis, un jargon réglementaire ou un style rédactionnel propre à une organisation, sans repartir d'un entraînement complet. Un défaut d'adaptation de domaine se traduit typiquement par des hallucinations terminologiques ou une mauvaise compréhension du contexte métier lorsqu'un modèle généraliste est déployé tel quel sur des tâches spécialisées récurrentes.