Attaque par inversion de modèle

Définition

Une attaque par inversion de modele, ou model inversion attack, est une technique qui exploite l'acces aux sorties d'un modele d'IA pour reconstruire des informations sur ses donnees d'entrainement, y compris des donnees personnelles sensibles. L'attaquant, en interrogeant repetitivement le modele et en optimisant une entree pour maximiser la confiance de sortie d'une classe donnee, peut reconstituer une approximation visuelle ou textuelle d'un exemple d'entrainement, par exemple le visage d'une personne utilisee pour entrainer un systeme de reconnaissance faciale. Cette attaque est particulierement critique pour les modeles entraines sur des donnees de sante, biometriques ou financieres, ou elle constitue une violation directe du RGPD et des principes de minimisation des donnees. Elle differe de l'attaque par inference d'appartenance qui vise a determiner si un exemple precis faisait partie du jeu d'entrainement, alors que l'inversion cherche a reconstruire le contenu meme des donnees. Les facteurs aggravants incluent un acces en boite blanche aux gradients du modele, une forte memorisation liee au surapprentissage, et un jeu d'entrainement de petite taille. Les contre-mesures principales sont l'apprentissage avec confidentialite differentielle (differential privacy), la limitation du taux de requetes API, et le floutage des scores de confiance retournes, mesures documentees dans le NIST AI RMF.