Perturbation adversariale imperceptible

Définition

Une perturbation adversariale imperceptible est une modification calculee et de tres faible amplitude apportee a une donnee d'entree - image, audio ou texte - concue pour tromper un modele d'IA sans etre detectable par un observateur humain. Mathematiquement, cette perturbation est generalement contrainte a l'interieur d'une boule de norme Lp, souvent L-infini ou L2, autour de l'entree originale, garantissant que la distance visuelle ou auditive percue reste minimale. Sur une image, l'amplitude typique reste inferieure a quelques unites sur une echelle de 0 a 255 par pixel, invisible a l'oeil nu mais suffisante pour franchir la frontiere de decision d'un classifieur. Les algorithmes d'optimisation utilises, comme le gradient sign method ou les attaques par optimisation contrainte, exploitent directement les gradients du modele pour identifier la direction de perturbation la plus efficace avec le budget le plus faible possible. Cette caracteristique d'imperceptibilite est ce qui rend l'attaque dangereuse en conditions reelles : un attaquant peut modifier un panneau routier, un fichier audio ou un document sans alerter un controle visuel humain. La defense repose sur la certification de robustesse (randomized smoothing), qui garantit mathematiquement l'absence de changement de decision dans un rayon de perturbation donne, une approche de plus en plus exigee pour les systemes a haut risque au sens de l'AI Act.