Droit a l'explication d'une decision automatisee

Définition

Le droit a l'explication d'une decision automatisee est la prerogative reconnue a une personne d'obtenir des informations comprehensibles sur la logique d'une decision prise, exclusivement ou de maniere significative, par un traitement automatise. En droit europeen, ce droit decoule de l'article 22 et du considerant 71 du RGPD, qui imposent au responsable de traitement de fournir des informations utiles sur la logique sous-jacente, ainsi que sur l'importance et les consequences envisagees du traitement, sans pour autant exiger la divulgation du code source ou des parametres exacts du modele. L'AI Act renforce cette exigence pour les systemes a haut risque en imposant une documentation technique et une transparence accrue vis-a-vis des personnes affectees. En pratique, ce droit pose un defi technique majeur pour les modeles complexes comme les reseaux de neurones profonds, dits boites noires, ou l'explicabilite native est limitee. Les organisations recourent alors a des methodes d'explicabilite post-hoc telles que SHAP ou LIME, qui approximent l'influence de chaque variable sur une prediction donnee, sans garantir une fidelite totale au fonctionnement interne du modele. Ce droit s'applique typiquement au credit scoring, au recrutement algorithmique et a la tarification assurantielle, domaines ou les autorites de controle exigent des explications individualisees et actionnables pour la personne concernee.