Vol de modèle par requêtage

Définition

Le vol de modele par requetage, ou model extraction attack, est une technique qui permet a un attaquant de reconstruire une copie approximative d'un modele d'IA proprietaire en interrogeant massivement son API publique et en observant les paires entree-sortie obtenues. En entrainant un modele de substitution (surrogate model) sur ces paires collectees, l'attaquant peut reproduire les fonctionnalites du modele original sans jamais acceder a ses poids, son architecture ou ses donnees d'entrainement, contournant ainsi la propriete intellectuelle et l'investissement realise par l'editeur. Cette attaque est particulierement efficace contre les modeles exposes via API-as-a-Service, ou l'attaquant dispose d'un budget de requetes suffisant pour couvrir l'espace des entrees possibles, parfois quelques milliers de requetes suffisent pour des modeles de classification simples. Elle sert aussi souvent d'etape preliminaire a une attaque par exemple adversarial en boite blanche, le modele vole permettant de calculer des perturbations optimales hors ligne avant de les rejouer contre le modele cible. Les contre-mesures incluent la limitation du taux de requetes (rate limiting), l'ajout de bruit calibre aux scores de confiance retournes, la detection de patterns de requetes suspects, et le watermarking de modeles permettant de prouver juridiquement l'origine d'un modele copie en cas de litige.