Aller au contenu principal
Expert Cybersécurité & IAv9.0
Centres de ressources conformité
Besoin d'un accompagnement expert ?
Devis personnalisé sous 24h — audit, conformité, incident
Outils open source — Gratuits, portables, hors ligne
Caractéristiques communes
100 % hors ligne — aucune donnée transmise
Portables — un seul fichier exécutable
Gratuits — MIT ou GPL v3
Code source ouvert sur GitHub
Checklists Sécurité — Audit & Durcissement
Formats disponibles
📄 PDF 📊 Excel 🌐 Web

11 checklists professionnelles couvrant 2 200+ points de contrôle. Téléchargement gratuit, aucune inscription.

Academy Contact

Membership Inference Attack

ia

Définition

Une Membership Inference Attack (MIA) est une attaque sur la vie privee des modeles de machine learning consistant a determiner si un exemple de donnees specifique a ete inclus dans le dataset d'entrainement. Pour les LLMs, cela signifie deviner si un texte particulier (conversation privee, document confidentiel, email) faisait partie du corpus d'entrainement. Le principe exploite le fait que les modeles assignent des probabilites plus elevees aux sequences sur lesquelles ils ont ete entraines (memorisation). Les MIA mesurent la difference de confiance entre membres (donnees d'entrainement) et non-membres, via des metriques comme la perplexite, le ratio loss/zlib, ou des shadow models. Pour les LLMs, Carlini et al. (2021) ont demontre que des MIA peuvent extraire des verbatim depuis GPT-2. MIN-K% Prob (2024) est une technique simple et efficace : les non-membres ont plus de tokens a faible probabilite que les membres. Le risque RGPD est direct : si un LLM a ete entraine sur des donnees personnelles, des MIA permettent de detecter cette utilisation. L'Article 17 (droit a l'oubli) est particulierement problematique : 'supprimer' une donnee d'un LLM necessit du machine unlearning, pas juste une suppression en base de donnees. Les mitigations incluent : Differential Privacy (DP-SGD) pendant l'entrainement, deduplication du corpus, et limiter la taille des modeles par rapport aux donnees pour reduire l'overfitting.

Technique MIN-K% Prob

# MIN-K% : MIA simple via les tokens de plus faible probabilite
# Intuition : les non-membres ont plus de tokens a faible probabilite
import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

def min_k_prob_mia(text, model, tokenizer, k_percent=0.2):
    inputs = tokenizer(text, return_tensors='pt')
    with torch.no_grad():
        outputs = model(**inputs, labels=inputs['input_ids'])
    # Score eleve = probable membre du training set
    return -outputs.loss.item()

Differential Privacy comme mitigation

# Entrainement avec DP-SGD (Opacus - Meta)
from opacus import PrivacyEngine

privacy_engine = PrivacyEngine()
model, optimizer, data_loader = privacy_engine.make_private_with_epsilon(
    module=model, optimizer=optimizer, data_loader=data_loader,
    epochs=10, target_epsilon=8.0, target_delta=1e-5, max_grad_norm=1.0
)

Implications legales RGPD

  • Droit a l'oubli (Art. 17) : necessite machine unlearning
  • Minimisation des donnees : eviter l'entrainement sur donnees personnelles identifiantes
  • DPIA obligatoire pour les modeles entraines sur donnees sensibles

Articles liés

Un projet cybersécurité ?

Expert dispo · Réponse 24h

Devis