Transparence algorithmique (ISO 42001)

Définition

La transparence algorithmique, principe promu par la norme ISO 42001, désigne l'ensemble des mesures qu'une organisation développant ou déployant un système d'intelligence artificielle met en œuvre pour permettre aux parties concernées, utilisateurs, personnes affectées par les décisions du système ou autorités de contrôle, de comprendre à un niveau adapté à leur besoin le fonctionnement général du système, les données qu'il utilise et les limites de sa fiabilité, sans pour autant nécessairement exiger une divulgation complète de son fonctionnement technique interne, souvent protégé par le secret des affaires. Cette exigence se décline concrètement par la fourniture d'une documentation adaptée à chaque destinataire, une information claire sur le fait qu'une personne interagit avec un système automatisé, l'explicabilité des facteurs ayant conduit à un résultat donné lorsque cela est techniquement possible et pertinent au regard de l'enjeu de la décision concernée, ainsi qu'une communication honnête sur les limites de performance et les cas d'usage pour lesquels le système n'a pas été validé. Cette exigence rejoint directement les obligations de transparence imposées par le règlement européen sur l'intelligence artificielle pour les systèmes à risque limité, comme les agents conversationnels, ainsi que le droit à une explication reconnu par le RGPD aux personnes faisant l'objet d'une décision individuelle automatisée, illustrant la convergence croissante entre normes volontaires et obligations réglementaires sur ce sujet.