Explicabilite par valeurs de Shapley

Définition

L'explicabilite par valeurs de Shapley est une methode d'interpretabilite de modeles d'intelligence artificielle qui attribue a chaque caracteristique d'entree une contribution numerique a une prediction donnee, en s'appuyant sur un concept issu de la theorie des jeux cooperatifs developpe par Lloyd Shapley. Le principe consiste a considerer chaque caracteristique comme un joueur contribuant a un gain collectif, la prediction du modele, et a calculer sa contribution moyenne en evaluant l'effet de son ajout sur toutes les combinaisons possibles des autres caracteristiques. Cette approche garantit des proprietes mathematiques fortes, notamment l'additivite exacte, ou la somme des contributions individuelles egale precisement l'ecart entre la prediction et une valeur de reference, ce que ne garantit pas LIME. Le calcul exact etant exponentiellement couteux avec le nombre de caracteristiques, des approximations efficaces comme la bibliotheque SHAP, tres largement adoptee dans l'industrie, permettent une utilisation pratique sur des modeles complexes, y compris des reseaux de neurones profonds. Cette methode est particulierement utilisee pour expliquer des decisions individuelles dans des secteurs regules comme la finance, l'assurance ou les ressources humaines, en reponse aux exigences de transparence de l'AI Act europeen. Elle sert egalement d'outil de diagnostic pour detecter des biais algorithmiques en identifiant des caracteristiques sensibles ayant un poids anormalement eleve dans les predictions.