Évaluation d'impact du système d'IA (ISO 42001)

Définition

L'évaluation d'impact du système d'IA, exigence de la norme ISO 42001, désigne le processus documenté par lequel une organisation analyse les conséquences potentielles, positives comme négatives, qu'un système d'intelligence artificielle qu'elle développe ou déploie est susceptible de générer sur les individus, les groupes concernés et la société dans son ensemble, avant sa mise en production et tout au long de son cycle de vie. Cette évaluation couvre des dimensions variées, dépassant le seul risque de sécurité de l'information classique pour intégrer des enjeux propres à l'intelligence artificielle : risques de biais et de discrimination dans les résultats produits par le système, impact sur l'autonomie et les droits des personnes affectées par ses décisions, transparence insuffisante rendant le fonctionnement du système incompréhensible pour ses utilisateurs, ou encore risques environnementaux liés à la consommation énergétique de l'entraînement et de l'exploitation de modèles particulièrement volumineux. Cette évaluation s'articule étroitement avec les exigences du règlement européen sur l'intelligence artificielle pour les systèmes à haut risque, notamment le système de gestion des risques imposé par ce texte, la norme ISO 42001 fournissant un cadre de gouvernance structurant permettant de satisfaire de manière cohérente ces deux référentiels complémentaires plutôt que de traiter séparément l'exigence normative et l'exigence réglementaire européenne.