Journalisation des inferences

Définition

La journalisation des inferences (inference logging) est la capture systematique et structuree de chaque prediction produite par un modele d'intelligence artificielle en production, incluant typiquement l'entree recue, la sortie generee, le score de confiance, la version du modele, l'horodatage et l'identifiant de la requete. Cette tracabilite est la matiere premiere de la surveillance de la derive de donnees et de concept, du diagnostic d'incidents et de l'audit reglementaire. Pour les grands modeles de langage, elle inclut souvent le prompt complet, les tokens consommes, les appels a des outils externes et les etapes intermediaires d'un pipeline d'orchestration, afin de reconstituer le raisonnement complet en cas de contestation d'une decision automatisee. Cette journalisation doit concilier deux exigences en tension : une granularite suffisante pour permettre le debogage et l'audit, et le respect du RGPD lorsque les entrees contiennent des donnees personnelles, ce qui impose souvent une anonymisation, une pseudonymisation ou une duree de conservation limitee. L'AI Act impose explicitement, pour les systemes IA a haut risque, une conservation des journaux garantissant la tracabilite du fonctionnement pendant une duree adaptee au cycle de vie du systeme. Techniquement, les journaux alimentent des plateformes d'observabilite specialisees et servent de base au reentrainement, a l'analyse de biais et a la reconstitution d'incidents de securite.