Contestabilite d'une decision algorithmique

Définition

La contestabilite d'une decision algorithmique est la capacite offerte a une personne affectee par une decision issue d'un systeme automatise de la remettre en cause et d'obtenir un reexamen effectif, le cas echeant par une intervention humaine. Elle constitue un principe distinct du droit a l'explication : expliquer une decision ne suffit pas si aucune voie de recours n'existe pour la contester utilement. L'article 22 du RGPD garantit, pour les decisions individuelles automatisees produisant des effets juridiques ou similaires, le droit d'obtenir une intervention humaine, d'exprimer son point de vue et de contester la decision. L'AI Act complete ce dispositif pour les systemes a haut risque en exigeant des mecanismes de reclamation accessibles et des delais de traitement raisonnables. Une contestabilite effective suppose plusieurs elements concrets : un canal de saisine identifie, un examinateur humain disposant d'une reelle autorite de revision et non d'un simple pouvoir de validation formelle, un delai de reponse encadre, et la conservation des donnees et parametres ayant conduit a la decision initiale pour permettre son reexamen. Les secteurs les plus exposes sont le credit scoring, l'assurance parametrique, le recrutement automatise et la moderation de contenu, ou l'absence de voie de recours effective expose l'organisation a un risque juridique et reputationnel significatif.