Evaluation d'impact algorithmique

Définition

Une evaluation d'impact algorithmique est une demarche structuree qui analyse en amont les consequences potentielles, positives et negatives, d'un systeme algorithmique ou d'intelligence artificielle sur les personnes, les groupes et la societe, avant son deploiement ou lors de modifications significatives. Elle couvre generalement les risques de discrimination, d'atteinte a la vie privee, d'erreur de decision automatisee affectant des droits fondamentaux, et les impacts sur des populations vulnerables. Cette demarche s'inspire directement de l'analyse d'impact relative a la protection des donnees, ou AIPD, exigee par le RGPD pour les traitements a risque eleve, et se retrouve renforcee dans l'AI Act europeen, qui impose une evaluation d'impact sur les droits fondamentaux pour certains deployeurs de systemes d'IA a haut risque, notamment dans le secteur public et les services essentiels. L'evaluation implique generalement les equipes techniques, les responsables metier, le delegue a la protection des donnees et, selon les cas, des representants des personnes concernees ou de la societe civile. Elle documente les alternatives envisagees, les mesures de mitigation retenues et les mecanismes de recours prevus pour les personnes affectees par une decision automatisee. Pour un RSSI ou un DPO, elle constitue une piece de conformite essentielle, complementaire a la fiche de risque de systeme d'IA et a l'audit de biais algorithmique.