Confidentialite differentielle

Définition

La confidentialite differentielle, ou differential privacy, est une definition mathematique rigoureuse de la protection de la vie privee qui garantit que la presence ou l'absence d'un individu unique dans un jeu de donnees n'affecte que de maniere negligeable, et quantifiable, le resultat d'une analyse ou l'entrainement d'un modele. Cette garantie est controlee par un parametre note epsilon, appele budget de confidentialite : plus epsilon est faible, plus la protection est forte, au prix generalement d'une degradation de la precision ou de l'utilite du modele. Concretement, la confidentialite differentielle s'implemente en ajoutant du bruit statistique calibre, soit directement aux donnees, soit aux gradients calcules pendant l'entrainement d'un reseau de neurones, technique connue sous le nom de DP-SGD, descente de gradient stochastique differentiellement privee. Cette approche presente l'avantage d'offrir une garantie formelle et composable, contrairement a l'anonymisation classique dont la robustesse ne peut etre demontree mathematiquement face a des attaques futures inconnues. Apple, Google et le Bureau du recensement des Etats-Unis figurent parmi les organisations ayant deploye la confidentialite differentielle a grande echelle, respectivement pour la collecte de statistiques d'usage, l'analyse de trafic et le recensement de la population. Elle est de plus en plus citee comme mesure technique de reference dans les recommandations de la CNIL et les referentiels de gestion des risques IA.