Anonymisation pour l'entrainement de modeles

Définition

L'anonymisation pour l'entrainement de modeles est le processus consistant a transformer irreversiblement des donnees a caractere personnel pour qu'elles ne permettent plus d'identifier une personne, directement ou indirectement, avant leur utilisation pour entrainer un systeme d'intelligence artificielle. Une fois veritablement anonymisees au sens du RGPD, les donnees sortent du champ d'application du reglement, ce qui allege les contraintes juridiques pesant sur leur usage. L'anonymisation doit toutefois etre distinguee de la pseudonymisation, qui reste reversible et demeure soumise au RGPD. Le Groupe de travail Article 29, dans son avis de reference sur les techniques d'anonymisation, retient trois criteres cumulatifs pour qualifier une anonymisation robuste : l'impossibilite d'individualiser une personne, l'impossibilite de relier des enregistrements entre eux, et l'impossibilite d'inferer des informations sur une personne. Dans le contexte du machine learning, l'anonymisation se heurte a un risque specifique : le modele entraine peut memoriser des correlations suffisamment precises pour permettre une reidentification indirecte, notamment via des attaques par inference d'appartenance ou d'extraction de donnees, particulierement documentees sur les grands modeles de langage entraines sur de vastes corpus textuels. Les techniques couramment utilisees incluent la generalisation, la suppression d'attributs identifiants, le bruitage statistique et, de facon plus robuste, la confidentialite differentielle appliquee directement au processus d'entrainement.