Membership Inference Attack
iaDéfinition
Une Membership Inference Attack (MIA) est une attaque sur la vie privee des modeles de machine learning consistant a determiner si un exemple de donnees specifique a ete inclus dans le dataset d'entrainement. Pour les LLMs, cela signifie deviner si un texte particulier (conversation privee, document confidentiel, email) faisait partie du corpus d'entrainement. Le principe exploite le fait que les modeles assignent des probabilites plus elevees aux sequences sur lesquelles ils ont ete entraines (memorisation). Les MIA mesurent la difference de confiance entre membres (donnees d'entrainement) et non-membres, via des metriques comme la perplexite, le ratio loss/zlib, ou des shadow models. Pour les LLMs, Carlini et al. (2021) ont demontre que des MIA peuvent extraire des verbatim depuis GPT-2. MIN-K% Prob (2024) est une technique simple et efficace : les non-membres ont plus de tokens a faible probabilite que les membres. Le risque RGPD est direct : si un LLM a ete entraine sur des donnees personnelles, des MIA permettent de detecter cette utilisation. L'Article 17 (droit a l'oubli) est particulierement problematique : 'supprimer' une donnee d'un LLM necessit du machine unlearning, pas juste une suppression en base de donnees. Les mitigations incluent : Differential Privacy (DP-SGD) pendant l'entrainement, deduplication du corpus, et limiter la taille des modeles par rapport aux donnees pour reduire l'overfitting.
Technique MIN-K% Prob
# MIN-K% : MIA simple via les tokens de plus faible probabilite
# Intuition : les non-membres ont plus de tokens a faible probabilite
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer
def min_k_prob_mia(text, model, tokenizer, k_percent=0.2):
inputs = tokenizer(text, return_tensors='pt')
with torch.no_grad():
outputs = model(**inputs, labels=inputs['input_ids'])
# Score eleve = probable membre du training set
return -outputs.loss.item()Differential Privacy comme mitigation
# Entrainement avec DP-SGD (Opacus - Meta)
from opacus import PrivacyEngine
privacy_engine = PrivacyEngine()
model, optimizer, data_loader = privacy_engine.make_private_with_epsilon(
module=model, optimizer=optimizer, data_loader=data_loader,
epochs=10, target_epsilon=8.0, target_delta=1e-5, max_grad_norm=1.0
)Implications legales RGPD
- Droit a l'oubli (Art. 17) : necessite machine unlearning
- Minimisation des donnees : eviter l'entrainement sur donnees personnelles identifiantes
- DPIA obligatoire pour les modeles entraines sur donnees sensibles
Articles liés
Expert en cybersécurité offensive et intelligence artificielle. Pentest, audit et développement IA sur-mesure.
Services
- Audit Infrastructure
- Audit Kubernetes
- Audit Microsoft 365
- Audit Sécurité Réseau
- Analyse de Risques
- Audit Active Directory
- Audit Application Web
- Audit Cloud (AWS/Azure/GCP)
- Audit Messagerie
- Audit API (OWASP Top 10)
- Audit DevSecOps & CI/CD
- Audit Code Source (SAST)
- Audit Postes de Travail
- Audit Sauvegarde & Résilience
- Audit OT/SCADA (IEC 62443)
- Développement IA
- Formations
Ressources
Projets & Outils
© 2026 Ayi NEDJIMI Consultants. Tous droits réservés. 2.1.7
Un projet cybersécurité ?
Expert dispo · Réponse 24h