Attaque par inférence d'appartenance

Définition

Une attaque par inference d'appartenance, ou membership inference attack, est une technique qui permet a un adversaire de determiner si un exemple de donnees precis a ete utilise dans le jeu d'entrainement d'un modele d'IA, sans acces direct a ce jeu de donnees. L'attaque s'appuie sur le fait qu'un modele tend a produire une confiance plus elevee ou une perte plus faible sur les exemples qu'il a deja vus pendant l'entrainement, un symptome direct du surapprentissage (overfitting). En comparant le comportement du modele sur l'exemple cible avec un modele d'ombre (shadow model) entraine pour imiter le comportement de la cible, l'attaquant construit un classifieur binaire predisant l'appartenance ou non au jeu d'entrainement. Cette attaque constitue une violation de confidentialite significative lorsque le jeu d'entrainement contient des donnees personnelles sensibles, par exemple des dossiers medicaux ou des historiques financiers, car elle revele indirectement qu'une personne precise figure dans une base de donnees confidentielle. Le RGPD et l'AI Act considerent ce risque parmi les enjeux de protection des donnees a evaluer lors d'une analyse d'impact. Les defenses principales incluent la confidentialite differentielle, la regularisation forte pendant l'entrainement, et la reduction du surapprentissage via des techniques comme le dropout ou l'arret precoce (early stopping).