Norme ISO/IEC 25059 qualite des systemes IA

Définition

La norme ISO/IEC 25059 qualite des systemes IA est une norme internationale, publiee en 2023, qui adapte le modele de qualite generique de la famille SQuaRE, ISO/IEC 25000, aux specificites des systemes d'intelligence artificielle exploitant l'apprentissage automatique. Elle definit un ensemble de caracteristiques de qualite propres a l'IA, en complement des caracteristiques logicielles classiques comme la fiabilite ou la performance : la precision fonctionnelle, la robustesse face a des entrees inhabituelles ou adversariales, la capacite d'adaptation a de nouvelles donnees, l'explicabilite des sorties produites, la transparence sur les capacites et limites du systeme, l'equite algorithmique et l'absence de biais discriminatoire injustifie. La norme propose egalement un modele de qualite d'usage, evaluant l'experience effective des utilisateurs finaux et des parties prenantes, et un modele d'evaluation associant metriques quantitatives et criteres qualitatifs. Elle est concue pour etre utilisee tout au long du cycle de vie du systeme d'IA, depuis la specification des exigences jusqu'a la verification et validation avant mise en service. Pour un ingenieur ML ou un DSI, l'ISO/IEC 25059 offre un cadre commun pour specifier des criteres d'acceptation objectifs lors de l'achat ou du developpement d'un systeme d'IA, et pour structurer les tests de qualite exiges par ailleurs par l'AI Act europeen.