Adversarial Machine Learning

Taxonomie des attaques

• Evasion attacks : modifier subtilement une entrée pour tromper le modèle (ex : patch adversarial sur un panneau stop)
• Poisoning attacks : corrompre les données d'entraînement pour biaiser le modèle
• Model extraction : reconstruire un modèle propriétaire via ses réponses API
• Membership inference : déterminer si un échantillon faisait partie des données d'entraînement

Défenses

Adversarial training, differential privacy, robustesse certifiée, monitoring des distributions d'entrée. Le framework MITRE ATLAS cartographie ces attaques.