Carte de saillance

Définition

Une carte de saillance, ou saliency map, est une representation visuelle qui met en evidence les regions d'une image ou les segments d'un signal d'entree ayant le plus influence la decision d'un modele de vision par ordinateur ou de traitement du signal. Techniquement, elle est generalement construite en calculant le gradient de la sortie du modele par rapport a chaque pixel d'entree, produisant une carte thermique superposable a l'image originale, ou les zones les plus contributives apparaissent en couleurs vives. Des variantes plus sophistiquees, comme Grad-CAM, exploitent les cartes d'activation des couches convolutives profondes pour produire des explications plus robustes et moins bruitees que le simple gradient brut. Les cartes de saillance sont largement utilisees pour auditer des modeles de classification d'images en imagerie medicale, en controle qualite industriel ou en reconnaissance faciale, afin de verifier que le modele fonde ses decisions sur des elements pertinents plutot que sur des artefacts de fond ou des biais du jeu de donnees d'entrainement. Elles constituent un outil de diagnostic essentiel pour les audits d'explicabilite exiges par l'AI Act europeen sur les systemes a haut risque utilisant de la vision par ordinateur. Leurs limites incluent une sensibilite au bruit et une fiabilite variable selon la methode de calcul retenue, necessitant une validation croisee avec d'autres techniques.