Cycle de vie du système d'IA (ISO 42001)

Définition

Le cycle de vie du système d'IA, notion structurante de la norme ISO 42001, désigne l'ensemble des phases traversées par un système d'intelligence artificielle, de sa conception initiale, incluant la définition de sa finalité et la sélection des données d'entraînement, jusqu'à son retrait définitif du service, en passant par son développement, sa validation, son déploiement, son exploitation courante et sa surveillance continue en production. La norme impose que l'organisation applique une gouvernance adaptée à chacune de ces phases plutôt que de concentrer l'ensemble de son effort de conformité sur le seul moment de la mise en production initiale, reconnaissant que les risques associés à un système d'intelligence artificielle évoluent dans le temps, notamment en raison de la dérive de performance pouvant survenir lorsque les données rencontrées en production s'écartent progressivement des données ayant servi à l'entraînement initial du système, phénomène connu sous le nom de dérive de modèle. Cette approche par cycle de vie rejoint directement la logique déjà adoptée par le Cyber Resilience Act pour les produits comportant des éléments numériques, et par le règlement européen sur l'intelligence artificielle pour les systèmes à haut risque, qui imposent tous deux une surveillance après commercialisation plutôt qu'un contrôle ponctuel unique. Pour les organisations développant des systèmes d'intelligence artificielle destinés à évoluer dans des environnements changeants, cette gouvernance continue constitue un facteur déterminant de fiabilité à long terme du système déployé.