Rôles et responsabilités IA (ISO 42001)

Définition

Les rôles et responsabilités IA, exigence de la norme ISO 42001, imposent à l'organisation de déterminer et de communiquer clairement les responsabilités et autorités relatives à son système de management de l'intelligence artificielle, en tenant compte de la diversité des acteurs susceptibles d'intervenir tout au long du cycle de vie d'un système d'IA, notamment le développeur du système, le fournisseur au sens du règlement européen sur l'intelligence artificielle, le déployeur qui exploite le système dans son activité professionnelle, et les utilisateurs finaux dont les décisions ou les usages peuvent être influencés par les résultats produits par le système. Cette exigence prend une importance particulière dans le contexte de l'intelligence artificielle, où la chaîne de responsabilité peut s'avérer plus complexe et plus diffuse que dans un système d'information classique, notamment lorsqu'un système repose sur un modèle d'IA à usage général développé par un tiers, intégré et adapté par un second acteur, puis déployé par un troisième acteur auprès d'utilisateurs finaux, chacun de ces intervenants devant assumer une part clairement définie de la responsabilité globale. La norme recommande la désignation d'un responsable identifié pour le système de management de l'IA, à l'image du rôle exercé par un responsable de la sécurité de l'information pour un système de management ISO 27001, chargé de veiller à la cohérence globale de la gouvernance mise en place.