Attaque évasive sur classifieur

Définition

Une attaque evasive sur classifieur est une attaque adversariale menee au moment de l'inference, qui vise a modifier une entree malveillante de facon a ce qu'elle soit classee comme benigne par un systeme de detection, sans jamais compromettre le modele lui-meme. Contrairement a l'empoisonnement qui corrompt l'entrainement, l'evasion agit exclusivement en production, en temps reel, sur des systemes deployes comme les antivirus bases sur le machine learning, les filtres anti-spam, les systemes de detection d'intrusion (IDS) ou les moteurs anti-fraude. Un logiciel malveillant peut par exemple etre legerement modifie en ajoutant du code mort, en changeant l'ordre des instructions ou en obfusquant sa signature binaire, jusqu'a franchir le seuil de detection du classifieur tout en conservant sa charge malveillante intacte. Cette categorie d'attaque est historiquement la premiere forme d'attaque adversariale documentee, bien avant les travaux sur la vision par ordinateur, car elle touche directement les systemes de cybersecurite operationnels depuis les annees 2000. La defense repose sur le reentrainement regulier avec des echantillons d'evasion recents, l'usage d'ensembles de classifieurs heterogenes plus difficiles a contourner simultanement, et la surveillance comportementale complementaire qui ne repose pas uniquement sur la signature statique analysee par le modele de machine learning.