Attaque par exemple adversarial

Définition

Une attaque par exemple adversarial consiste a modifier legerement une entree soumise a un modele d'IA de maniere a provoquer une erreur de prediction, tout en gardant l'entree quasiment identique a l'originale du point de vue humain. Sur une image, quelques pixels modifies de facon imperceptible peuvent faire classer un panneau stop comme un panneau de limitation de vitesse par un systeme de vision embarque. Sur un texte, le remplacement de quelques caracteres ou mots par des synonymes peut faire basculer la classification d'un email de spam a legitime. Les methodes de generation incluent le Fast Gradient Sign Method (FGSM), le Projected Gradient Descent (PGD) et les attaques par optimisation comme Carlini-Wagner, qui calculent la perturbation minimale necessaire pour franchir la frontiere de decision du modele. Ces attaques exploitent la nature intrinsequement lineaire et haute dimension des reseaux de neurones profonds, qui les rend vulnerables meme lorsque leur performance moyenne est excellente. Elles representent une menace critique pour les systemes de securite biometrique, de detection de fraude, de conduite autonome et de filtrage de contenu. Les defenses reconnues incluent l'entrainement adversarial (adversarial training), la distillation defensive et les certifications de robustesse formelle, toutes documentees dans les referentiels de securite IA du NIST et de l'OWASP.