Biais Algorithmique

Définition

Le biais algorithmique désigne une erreur systématique et reproductible dans les sorties d'un modèle d'intelligence artificielle, causée par des données d'entraînement non représentatives, des choix de conception du modèle ou des annotations humaines elles-mêmes biaisées, et se traduisant par des résultats discriminatoires envers certains groupes ou situations. On distingue plusieurs origines : le biais d'échantillonnage, lorsque le jeu d'entraînement sous-représente une population, le biais de mesure, lié à la façon dont les données ont été collectées ou étiquetées, et le biais d'automatisation, lorsque les utilisateurs font une confiance excessive aux sorties du système sans les questionner. Des cas documentés incluent des systèmes de reconnaissance faciale moins précis sur les peaux foncées, ou des outils de recrutement automatisé pénalisant des candidatures selon le genre en raison de données historiques déséquilibrées. Le biais algorithmique constitue un enjeu de conformité majeur au regard du règlement européen sur l'IA, AI Act, qui impose pour les systèmes à haut risque des obligations de gouvernance des données, de tests de non-discrimination et de documentation technique. Sa détection repose sur des métriques de fairness, comme la parité démographique ou l'égalité des chances, et sa correction implique un réentraînement ciblé, un rééquilibrage des données ou des contraintes post-traitement sur les sorties du modèle.