Évaluation continue en production

Définition

L'evaluation continue en production designe le suivi permanent des performances d'un modele d'IA une fois deploye, par opposition a l'evaluation ponctuelle realisee avant sa mise en service. Elle repose sur la collecte en temps reel de metriques comme le taux d'erreur, la latence, le taux de derive des donnees (data drift) et le taux de derive du concept (concept drift), qui indiquent une degradation progressive de la pertinence du modele face a l'evolution du monde reel. Les plateformes de MLOps integrent des tableaux de bord dedies, des alertes automatiques et des mecanismes de reentrainement declenches par seuil. Cette pratique est essentielle car un modele performant a son lancement peut se degrader silencieusement en quelques semaines si la distribution des donnees d'entree change, un phenomene frequent en cybersecurite ou les techniques d'attaque evoluent constamment. L'evaluation continue combine souvent des metriques automatiques et un echantillonnage humain pour detecter les erreurs non capturees par les indicateurs quantitatifs. Elle repond directement aux exigences de surveillance post-marche de l'AI Act pour les systemes a haut risque et s'inscrit dans les principes de gestion du cycle de vie du NIST AI RMF, qui imposent un suivi actif au-dela du deploiement initial.