Norme ISO/IEC 24029 robustesse des reseaux de neurones

Définition

La norme ISO/IEC 24029 robustesse des reseaux de neurones est une norme internationale publiee en deux parties, 24029-1 en 2021 et 24029-2 en 2023, qui traite specifiquement de l'evaluation de la robustesse des reseaux de neurones artificiels, c'est-a-dire de leur capacite a maintenir des performances stables face a des variations, du bruit ou des perturbations dans les donnees d'entree. La partie 1 pose le cadre general et le vocabulaire, en distinguant la robustesse statistique, mesuree par des methodes empiriques sur des jeux de donnees de test, et la robustesse formelle, etablie par des methodes de verification mathematique garantissant des proprietes sur un domaine d'entree defini. La partie 2 detaille des methodes de verification formelle applicables aux reseaux de neurones, utiles notamment pour detecter la vulnerabilite d'un modele face a des exemples adversariaux, ces entrees legerement modifiees et souvent imperceptibles a l'oeil humain qui provoquent des erreurs de classification. Cette norme interesse particulierement les systemes d'IA critiques ou a haut risque au sens de l'AI Act, comme la vision par ordinateur dans les vehicules autonomes ou les systemes de detection en cybersecurite, ou une faille de robustesse peut avoir des consequences graves. Elle complete l'ISO/IEC 23894 sur la gestion des risques en fournissant des methodes techniques d'evaluation d'une propriete de risque specifique.