Protection des donnees des l'entrainement

Définition

La protection des donnees des l'entrainement, ou privacy by design applique au machine learning, est l'integration des exigences de protection des donnees personnelles des la phase de conception d'un modele d'intelligence artificielle, plutot qu'a posteriori. Ce principe, consacre par l'article 25 du RGPD, impose la mise en oeuvre de mesures techniques et organisationnelles appropriees, comme la pseudonymisation, des le stade de determination des moyens du traitement. Applique a l'entrainement de modeles, il se traduit par plusieurs pratiques concretes : l'anonymisation ou la pseudonymisation des jeux de donnees avant entrainement, le recours a la confidentialite differentielle pour limiter la memorisation de donnees individuelles par le modele, l'apprentissage federe pour eviter la centralisation de donnees sensibles, et la mise en place de tests d'extraction, dits attaques par inference d'appartenance, permettant de verifier qu'un modele entraine ne restitue pas de donnees individuelles identifiables. Cette approche repond a un risque specifique aux grands modeles : la memorisation involontaire de sequences d'entrainement, demontree experimentalement sur plusieurs grands modeles de langage, qui peut conduire a la restitution verbatim de donnees personnelles ou confidentielles lors de l'inference. La protection des donnees des l'entrainement est desormais un critere evalue dans les audits de conformite RGPD et dans les certifications ISO/IEC 42001.