Journal d'audit des decisions IA

Définition

Le journal d'audit des decisions IA est un enregistrement structure et horodate des entrees, sorties, parametres et versions de modele associes a chaque decision automatisee prise par un systeme d'intelligence artificielle. Il vise a garantir la tracabilite requise par les cadres reglementaires, notamment l'AI Act europeen qui impose aux systemes d'IA a haut risque une tenue de journaux automatique permettant de retracer le fonctionnement du systeme sur toute sa duree de vie. Un journal d'audit complet consigne typiquement la version du modele utilisee, les donnees d'entree, le score ou la sortie produite, le niveau de confiance, les regles metier appliquees et, le cas echeant, l'intervention humaine de validation ou de correction. Il constitue une piece maitresse en cas de contentieux, de controle par une autorite de surveillance du marche, ou d'incident touchant des personnes, par exemple en credit scoring, recrutement ou diagnostic medical. Pour les RSSI et DPO, ce journal doit etre concu des la conception, selon une logique de privacy by design, et protege contre toute alteration, avec une politique de retention alignee sur les exigences sectorielles. Il se distingue du simple log applicatif par son objectif : permettre a un tiers, humain ou autorite, de comprendre et de reconstituer une decision algorithmique donnee, condition de l'explicabilite operationnelle exigee par de nombreux textes.