Audit d'equite de modele

Définition

Un audit d'equite de modele est une demarche technique qui evalue si un modele d'intelligence artificielle traite equitablement les differents groupes de personnes affectes par ses decisions, et qui propose des mesures correctives lorsque des ecarts sont constates. Il s'appuie sur des definitions formelles d'equite issues de la recherche en machine learning, comme la parite demographique, qui exige un taux de decision favorable identique entre groupes, l'egalite des chances, qui exige un taux de vrais positifs identique, ou la calibration, qui exige que les scores de confiance refletent la meme probabilite reelle pour chaque groupe. Ces definitions sont souvent mathematiquement incompatibles entre elles, ce qui impose un arbitrage explicite et documente selon le contexte d'usage et les enjeux ethiques et juridiques specifiques. Contrairement a un audit de biais algorithmique, centre sur la detection des disparites, l'audit d'equite de modele integre une phase de remediation active : reponderation des donnees d'entrainement, techniques de post-traitement ajustant les seuils de decision par groupe, ou entrainement sous contrainte d'equite integree a la fonction de perte. Cette pratique s'inscrit dans les exigences de gouvernance de l'AI Act europeen et du NIST AI RMF, et constitue un element de preuve important en cas de contentieux lie a une decision automatisee discriminatoire.