Attribution de caracteristiques

Définition

L'attribution de caracteristiques est une famille de methodes d'explicabilite qui quantifient la contribution de chaque variable d'entree d'un modele d'intelligence artificielle a une prediction specifique, permettant de repondre a la question de savoir quels facteurs ont pese, et dans quelle mesure, dans une decision automatisee donnee. Cette famille englobe plusieurs techniques complementaires : les valeurs de Shapley, fondees sur la theorie des jeux et offrant des garanties mathematiques d'additivite, LIME, qui approxime localement le modele par un substitut lineaire interpretable, les methodes basees sur le gradient comme Integrated Gradients ou les cartes de saillance pour les modeles de vision, et les methodes de propagation de pertinence comme Layer-wise Relevance Propagation pour les reseaux profonds. L'attribution de caracteristiques repond a un besoin croissant de transparence algorithmique, exige notamment par l'AI Act europeen pour les systemes a haut risque et par des reglementations sectorielles comme le credit scoring ou l'assurance, ou une decision automatisee defavorable doit pouvoir etre expliquee a la personne concernee. Elle sert egalement d'outil de diagnostic technique pour detecter des biais, identifier des variables proxy discriminatoires ou verifier la robustesse d'un modele face a des correlations fallacieuses apprises sur les donnees d'entrainement. Le choix de la methode d'attribution depend du type de modele, de la nature des donnees et du niveau de garantie mathematique requis.