Attaque en boîte noire sur modèle

Définition

Une attaque en boite noire sur modele est une categorie d'attaques adversariales ou l'attaquant n'a acces qu'aux entrees et sorties du modele cible, sans connaissance de son architecture interne, de ses poids ou de ses gradients. C'est le scenario le plus realiste pour un attaquant externe face a un modele expose uniquement via une API commerciale, comme celles des principaux fournisseurs de LLM. Les techniques employees incluent les attaques par transfert, ou l'attaquant genere des exemples adversariaux sur un modele de substitution entraine localement puis les rejoue sur la cible en exploitant la transferabilite des vulnerabilites entre architectures similaires, et les attaques par estimation de gradient, qui approximent le gradient du modele cible via des requetes multiples et des techniques comme le zeroth-order optimization. Ces attaques necessitent generalement un volume de requetes plus important que les attaques en boite blanche, mais restent efficaces contre de nombreux systemes en production. Elles sont documentees comme scenario de menace prioritaire dans l'OWASP LLM Top 10, notamment pour le jailbreak et l'extraction d'informations sensibles via des LLM exposes publiquement. Les contre-mesures incluent la limitation du taux de requetes, la detection d'anomalies comportementales cote serveur, et l'ajout de bruit aux scores de confiance retournes afin de degrader la qualite de l'estimation de gradient par l'attaquant.