Objectifs de management de l'IA (ISO 42001)

Définition

Les objectifs de management de l'IA, exigence de la norme ISO 42001, désignent les cibles concrètes et mesurables que l'organisation établit aux fonctions et niveaux pertinents de son organisation, en cohérence avec sa politique de management de l'IA et découlant de l'évaluation d'impact des systèmes d'intelligence artificielle qu'elle développe, déploie ou utilise. Ces objectifs doivent, dans la mesure du possible, être mesurables et faire l'objet d'une surveillance permettant de vérifier leur atteinte effective, à l'image des objectifs de sécurité de l'information exigés par la norme ISO 27001, dont la structure méthodologique est largement reprise par l'ISO 42001. Concrètement, un objectif de management de l'IA peut porter sur la réduction d'un taux de biais mesuré sur un système de recrutement algorithmique en dessous d'un seuil défini, l'atteinte d'un niveau cible de couverture documentaire pour l'ensemble des systèmes d'IA à haut risque déployés par l'organisation au sens du règlement européen sur l'intelligence artificielle, ou encore la réduction du délai moyen de traitement des demandes d'explication formulées par des personnes affectées par une décision automatisée. La définition de tels objectifs transforme les principes éthiques souvent formulés de manière générale dans la politique de management de l'IA en engagements concrets et vérifiables lors des audits internes et externes du système de management.