Explicabilite locale LIME

Définition

L'explicabilite locale LIME, pour Local Interpretable Model-agnostic Explanations, est une methode d'explicabilite qui approxime le comportement d'un modele complexe et opaque, comme un reseau de neurones ou une foret aleatoire, par un modele simple et interpretable, generalement lineaire, valable localement autour d'une prediction unique. Concretement, LIME genere de nombreuses variantes legerement perturbees de l'observation etudiee, recupere les predictions du modele complexe pour chacune, puis entraine un modele lineaire pondere sur ces echantillons pour identifier quelles caracteristiques d'entree ont le plus influence la decision precise analysee. Cette approche presente l'avantage d'etre agnostique au type de modele, applicable aussi bien a des modeles tabulaires, textuels que d'images, et de fournir des explications intuitives et visuelles pour un decideur non technique, par exemple les mots d'un texte ou les zones d'une image ayant pese sur une classification. LIME est largement utilise dans les contextes reglementaires exigeant une explication individuelle des decisions automatisees, comme le credit scoring ou le recrutement, en coherence avec les exigences de transparence de l'AI Act europeen. Ses limites principales tiennent a l'instabilite des explications selon le parametrage de la perturbation, et a la validite strictement locale, qui ne garantit aucune coherence globale du comportement du modele. Elle est souvent comparee aux valeurs de Shapley pour une robustesse theorique superieure.