Audit de biais algorithmique

Définition

Un audit de biais algorithmique est un examen technique et methodologique visant a detecter et quantifier des disparites de traitement injustifiees produites par un modele algorithmique ou d'intelligence artificielle envers certains groupes de personnes, definis par des caracteristiques comme le genre, l'origine, l'age ou le handicap. L'audit mesure generalement les performances du modele separement pour chaque sous-groupe de la population concernee, a l'aide de metriques statistiques comme la parite demographique, l'egalite des chances ou le taux de faux positifs et de faux negatifs par groupe, afin d'identifier des ecarts significatifs. Les sources de biais analysees incluent les donnees d'entrainement non representatives, les proxys correles a des caracteristiques protegees, et les choix de conception du modele lui-meme. Cette pratique repond a des obligations reglementaires croissantes, notamment l'AI Act europeen pour les systemes a haut risque en matiere de recrutement, de credit ou d'acces aux services publics, ainsi qu'a des cadres de non-discrimination existants comme le droit du travail ou le droit de la consommation. Un audit de biais algorithmique rigoureux s'accompagne d'un plan de remediation, incluant le reequilibrage des donnees d'entrainement, l'ajustement des seuils de decision par groupe ou l'introduction de contraintes d'equite lors de l'entrainement. Il se distingue de l'audit d'equite de modele par son focus sur la detection plutot que sur la correction.