ETSI publie une norme anti-deepfake pour les développeurs IA

Ce qui s'est passé

Le 29 octobre 2026, l'Institut européen des normes de télécommunications (ETSI) a publié la spécification technique TS 104 275, intitulée « Securing Artificial Intelligence — Application of Baseline Cyber Security Requirements for AI Models and Systems: Preventing Harm from Deepfakes ». Ce document, élaboré par le groupe de travail ETSI SAI (Securing Artificial Intelligence), constitue la première norme internationale fournissant des critères techniques précis et vérifiables pour réduire le risque que des systèmes d'IA générative produisent des deepfakes nuisibles. Sa publication intervient à un moment où les contenus synthétiques malveillants font l'objet d'une attention croissante des régulateurs, des forces de l'ordre et des équipes de sécurité du monde entier.

La publication intervient dans un contexte de forte pression réglementaire et sociale. En 2026, les contenus synthétiques ont été impliqués dans des campagnes de désinformation électorale dans plusieurs pays, des fraudes dites « CEO voice » où des dirigeants virtuels ont autorisé des virements frauduleux, des cas de revenge porn synthétique affectant des personnes privées, et des opérations d'influence attribuées à des acteurs étatiques. Les outils de génération de contenus synthétiques sont devenus accessibles au grand public, réduisant drastiquement la barrière technique nécessaire pour produire des vidéos ou des enregistrements audio d'une qualité convaincante à partir de quelques secondes d'échantillon.

La spécification TS 104 275 s'articule autour de cinq axes principaux. Le premier concerne l'identification proactive des risques de détournement. Les développeurs et opérateurs de systèmes d'IA générative doivent évaluer systématiquement les cas d'usage abusifs potentiels de leurs modèles avant leur mise en production, en documentant les vecteurs d'utilisation malveillante identifiés et les mesures prises pour les atténuer. Cette approche transpose au domaine de la sécurité des modèles génératifs les principes du red teaming structuré, imposant un travail d'anticipation des scénarios d'abus dès la phase de conception plutôt qu'en réaction à des incidents.

Le deuxième axe concerne les processus de revue humaine et d'intervention. La norme exige que des mécanismes d'escalade vers un examinateur humain soient en place pour les cas où le système détecte une probabilité élevée de production de contenu potentiellement nuisible. Ces mécanismes doivent être documentés, testés régulièrement et efficaces dans des délais raisonnables. La norme ne prescrit pas de seuil universel pour ce déclenchement, reconnaissant que la sensibilité appropriée varie selon les contextes d'usage — une plateforme grand public et un outil professionnel de création audiovisuelle ont des profils de risque différents.

Le troisième axe porte sur le filtrage de contenu et l'étiquetage des productions synthétiques. La spécification impose la mise en oeuvre de filtres techniques visant à détecter et bloquer la production de contenus imitant des personnes réelles identifiables sans leur consentement explicite, notamment dans des contextes sexuels, politiques ou diffamatoires. Elle exige également l'intégration de marquages techniques permettant d'identifier les contenus comme générés par IA — en alignement avec les standards C2PA (Coalition for Content Provenance and Authenticity) qui émergent comme référence industrielle pour la provenance des contenus numériques — et l'affichage d'avertissements contextuels pour les utilisateurs.

Le quatrième axe impose une veille continue sur les menaces émergentes. ETSI TS 104 275 ne se limite pas à un instantané des bonnes pratiques actuelles : elle exige des organisations un processus continu de surveillance des nouvelles capacités de génération et des nouvelles techniques de contournement des garde-fous. Les incidents doivent être documentés, investigués et utilisés pour mettre à jour les mesures en place selon un cycle d'amélioration continue. Cette exigence rapproche la norme des référentiels de sécurité opérationnelle comme l'ISO 27001 plutôt que des certifications statiques obtenues une fois pour toutes.

Le cinquième axe est l'un des plus novateurs de la spécification : des scénarios de tests formels avec critères pass/fail explicites. Contrairement à de nombreux cadres de gouvernance IA qui reposent sur des engagements déclaratifs — « nous nous engageons à développer une IA responsable » — TS 104 275 fournit des scénarios de tests concrets permettant de démontrer objectivement qu'une réduction du risque deepfake a effectivement été obtenue. Les scénarios couvrent par exemple : tentative de génération de vidéo d'un personnage politique identifiable dans un contexte compromettant, tentative de clonage de voix à partir d'un court échantillon audio, génération d'images d'une personne privée à partir de son nom. Les critères pass/fail associés définissent ce que constitue un blocage ou une atténuation acceptable selon le contexte d'usage du système évalué.

La publication de TS 104 275 s'inscrit dans le cadre légal de l'AI Act européen (Règlement UE 2024/1689), entré progressivement en application depuis 2025. L'AI Act impose des obligations de transparence sur les contenus synthétiques et des exigences de robustesse pour les systèmes à usage général. L'ETSI positionne explicitement sa norme comme un outil permettant aux organisations de démontrer leur conformité aux objectifs de l'AI Act face aux autorités de contrôle nationales. En France, l'ANSSI et la CNIL ont été consultées dans le processus d'élaboration, et les entreprises françaises du secteur IA sont parmi les premières à examiner leur niveau de conformité à ce nouveau référentiel.

La spécification s'applique aux développeurs de modèles fondationnels capables de synthèse audiovisuelle, aux opérateurs de plateformes de génération d'images et de vidéos, aux intégrateurs déployant des capacités de synthèse vocale ou faciale dans leurs produits, et aux fournisseurs de services d'API exposant des fonctionnalités de génération multimodale. Des outils comme les générateurs d'images grand public, les plateformes de clonage vocal, les systèmes de traduction vidéo et les assistants de création audiovisuelle entrent dans le périmètre d'application de la norme selon leur architecture et leurs capacités de synthèse de personnes réelles.

Pourquoi c'est important

L'adoption de normes techniques vérifiables pour la sécurité des systèmes IA représente un tournant dans la maturité de la gouvernance de cette technologie. Jusqu'à présent, la majorité des engagements pris par les grandes entreprises IA en matière de sécurité et d'éthique reposaient sur des chartes, des principes directeurs ou des audits internes — des mécanismes difficiles à contrôler de l'extérieur et souvent tournés en exercices de communication peu contraignants. L'introduction de critères pass/fail testables change fondamentalement la dynamique : il devient possible pour un régulateur, un client ou un auditeur tiers de vérifier objectivement si un système respecte les garde-fous exigés, indépendamment des déclarations de l'éditeur.

Pour les entreprises qui développent ou intègrent des capacités de génération multimodale en France et en Europe, la publication de TS 104 275 marque le début d'une période de mise en conformité. Les organisations qui souhaitent préempter les exigences réglementaires à venir ont intérêt à démarrer dès maintenant l'évaluation de leurs systèmes par rapport aux scénarios de tests de la norme, qui constitue la base de travail la plus robuste disponible à ce jour. Celles qui attendent les premières décisions d'application de la Commission européenne ou des autorités nationales risquent de se retrouver sous pression pour des refontes techniques coûteuses dans des délais contraints.

La dimension géopolitique de cette normalisation mérite d'être soulignée. En publiant une spécification technique internationale sous l'égide de l'ETSI, l'Europe affirme son intention de jouer un rôle normatif dans la gouvernance de l'IA générative, en complément de son rôle réglementaire via l'AI Act. Cette approche dite « Brussels Effect » — où les normes européennes deviennent de facto des standards mondiaux parce que les entreprises globales ne souhaitent pas maintenir plusieurs ensembles de règles selon les marchés — pourrait s'appliquer à TS 104 275 : les grands acteurs américains et asiatiques de l'IA générative qui commercialisent en Europe devront s'y conformer, ce qui tire vers le haut les standards mondiaux de façon structurelle.

Enfin, la norme arrive au moment où les menaces deepfake s'accélèrent et se diversifient. Les experts estiment que d'ici 2028, la grande majorité des opérations d'influence à grande échelle intégreront des composantes de synthèse IA pour des contenus audio, vidéo ou textuels imitant des personnalités réelles. Se doter dès maintenant d'un cadre normatif robuste avec des critères de tests objectifs, avant que ces menaces n'atteignent leur plein potentiel de nuisance sociétale, est une démarche de prévention pragmatique qui vaut largement l'effort de mise en conformité qu'elle impose aux développeurs et opérateurs de systèmes IA.

Ce qu'il faut retenir

• ETSI TS 104 275 publiée le 29 octobre 2026 : première norme avec critères pass/fail testables imposant des garde-fous anti-deepfake concrets aux développeurs et opérateurs d'IA générative, en soutien à l'AI Act européen.
• Cinq axes d'exigences : identification des risques dès la conception, revue humaine, filtrage et étiquetage C2PA, veille continue sur les menaces, et scénarios de tests formels vérifiables par des tiers.
• Les organisations développant ou intégrant des capacités de synthèse vocale, faciale ou vidéo doivent engager dès maintenant l'évaluation de leur conformité à ce référentiel international qui deviendra progressivement incontournable en Europe.