Meta : 332 pubs CSAM générées par IA ont traversé la modération

Comment 332 publicités pédopornographiques générées par IA ont traversé la modération de Meta pendant neuf mois

Une enquête publiée le 9 septembre 2026 par la Tech Transparency Project (TTP), une organisation américaine spécialisée dans la responsabilité des plateformes technologiques, révèle que Meta a approuvé, diffusé et monétisé pendant neuf mois consécutifs 332 publicités contenant du matériel pédopornographique généré par intelligence artificielle. Ces annonces ont circulé sur l'ensemble des propriétés du groupe — Facebook, Instagram, Messenger et Threads — entre novembre 2025 et août 2026, atteignant des milliers de comptes selon les données de diffusion analysées par la TTP.

La nature du contenu est particulièrement grave : selon l'enquête, la quasi-totalité des publicités incriminées ne représentait pas des images entièrement synthétiques, mais des photographies réelles d'enfants — extraites de réseaux sociaux publics, de sites de partage de photos ou d'autres sources ouvertes — qui avaient ensuite été traitées par des applications d'intelligence artificielle de type « nudify » ou « undress AI ». Ces outils, accessibles en ligne pour quelques euros par mois, utilisent des modèles de diffusion pour retirer numériquement les vêtements des personnes photographiées. Appliqués à des photos d'enfants, ils produisent du CSAM (Child Sexual Abuse Material) au sens légal du terme, même en l'absence de tout contact physique.

Le processus d'investigation mené par la TTP s'est étalé sur plusieurs semaines. Les chercheurs ont créé des comptes publicitaires sur les plateformes Meta et soumis des annonces de test contenant du contenu clairement problématique pour évaluer les capacités de détection automatisée du système. En parallèle, ils ont documenté les publicités problématiques apparaissant organiquement dans leurs flux d'actualité et dans les espaces publicitaires des différentes plateformes du groupe. C'est cette combinaison d'investigation active et passive qui a permis d'identifier les 332 annonces.

L'analyse des publicités révèle qu'elles n'utilisaient pas de tactiques d'obfuscation sophistiquées pour contourner les algorithmes de modération. Elles ne cachaient pas le contenu problématique derrière des techniques de steganographie ou de compression d'image inhabituelles. Les annonces représentaient directement des enfants dans des situations sexuellement explicites, générées par IA, avec des accroches publicitaires pointant vers des applications ou sites web proposant des services de « nudification ». La facilité avec laquelle ces contenus ont passé les filtres automatisés de Meta pointe vers des lacunes fondamentales dans les systèmes de détection, plutôt que vers une sophistication particulière des contrevenants.

Engadget, qui a pu consulter une partie des documents de l'enquête, rapporte que Meta a réagi en deux temps à la notification de la TTP. Dans un premier temps, le groupe a supprimé environ 150 des 332 publicités signalées — soit moins de la moitié. Dans un second temps, Meta a mis à jour les paramètres de plus d'une centaine d'annonces supplémentaires pour y ajouter des étiquettes signalant des violations relatives à l'exploitation d'enfants, sans toutefois supprimer ces contenus de ses plateformes. Un nombre indéterminé de publicités serait donc resté en ligne après la notification initiale.

Les cabinets d'avocats Rafferty Domnick Cunningham et Yaffa ont publié le 9 septembre 2026 une déclaration publique tirant la sonnette d'alarme sur ce qu'ils qualifient d'« incapacité systémique » de Meta à protéger les enfants sur ses plateformes. Ils indiquent représenter plusieurs familles dont les photos d'enfants ont été identifiées dans des publicités CSAM diffusées par Meta, et annoncent préparer des actions en justice. Les avocats soulignent que Meta tire des revenus publicitaires directs de la diffusion de ces contenus, une situation qui pourrait constituer une circonstance aggravante dans d'éventuelles procédures pénales et civiles.

Le site Agentic Ready rapporte que la TTP a également découvert que Meta a approuvé 332 publicités pour des applications de nudification qui utilisaient expressément des images réelles d'enfants dans leurs créatives publicitaires — c'est-à-dire dans les visuels destinés à attirer les clics. Ces applications, souvent présentées comme des outils de divertissement ou de retouche photo, sont au cœur d'un écosystème clandestin de production de CSAM que les plateformes publicitaires des grands réseaux sociaux contribuent à financer via leurs systèmes automatisés d'enchères publicitaires.

La répartition géographique des publicités est significative : selon la TTP, environ 80 % des annonces identifiées ciblaient des utilisateurs basés aux États-Unis. Meta, dont le siège est en Californie, est soumis au PROTECT Our Children Act et à d'autres législations fédérales américaines imposant aux plateformes l'obligation de signaler immédiatement tout CSAM découvert au National Center for Missing and Exploited Children (NCMEC) via le CyberTipline. La question de savoir si Meta a effectué ces signalements obligatoires pour les 332 publicités identifiées par la TTP reste sans réponse publique à ce stade.

Pourquoi cette affaire révèle les limites structurelles de la modération automatisée à grande échelle

L'enquête de la Tech Transparency Project met en lumière une tension fondamentale dans le modèle économique des grandes plateformes publicitaires : l'automatisation à marche forcée des systèmes de modération, conçus pour traiter des milliards d'annonces avec un minimum de superviseurs humains, crée inévitablement des angles morts que des acteurs malveillants apprennent à exploiter. L'IA générative amplifie exponentiellement ce problème en permettant de produire des variantes de contenus problématiques plus rapidement que les systèmes de détection basés sur l'empreinte numérique (hashing) des images connues ne peuvent les référencer.

Meta investit massivement dans des systèmes de détection automatisés du CSAM, notamment via des partenariats avec PhotoDNA de Microsoft pour la détection des images connues via leur hash cryptographique. Mais PhotoDNA est intrinsèquement limité à la détection d'images déjà référencées dans des bases de données comme celles du NCMEC. Des images synthétiques ou nouvellement générées par IA, n'ayant jamais été référencées, passent sous les radars de ces systèmes. Meta déclare avoir commencé à déployer des systèmes de détection basés sur l'analyse de contenu plutôt que sur la correspondance d'empreintes, mais l'affaire TTP démontre que ces nouveaux outils ne suffisent pas encore.

En Europe, le Règlement sur les Services Numériques (DSA — Digital Services Act), entré en vigueur pour les grandes plateformes en août 2023, impose des obligations renforcées en matière de modération des contenus illégaux, dont le CSAM. La Commission européenne peut théoriquement infliger des amendes allant jusqu'à 6 % du chiffre d'affaires mondial annuel de Meta en cas de manquements graves et répétés à ces obligations. Une enquête formelle de la Commission sur la gestion des contenus CSAM par Meta est possible à la lumière des révélations de la TTP.

Au-delà de l'aspect légal, cette affaire soulève des questions plus profondes sur la responsabilité des développeurs d'outils d'IA générative. Les applications de nudification qui ont servi à produire les images utilisées dans ces publicités sont des produits commerciaux accessibles au grand public, souvent hébergés sur des serveurs dans des juridictions offrant peu de réglementation. La chaîne de responsabilité — du développeur de l'outil d'IA au diffuseur publicitaire en passant par l'annonceur malveillant — est complexe à démêler juridiquement, ce qui ralentit les réponses réglementaires et judiciaires face à l'accélération des dommages.

Ce qu'il faut retenir

• Meta a diffusé pendant 9 mois 332 publicités CSAM générées par IA, démontrant une défaillance structurelle de ses systèmes automatisés de modération face aux images synthétiques.
• Les outils d'IA générative de type « nudify » permettent de produire du CSAM légalement qualifiable à partir de photos réelles d'enfants issues de sources publiques.
• Les parents et responsables légaux doivent limiter l'exposition publique des photos d'enfants mineurs sur les réseaux sociaux ; les entreprises doivent réviser leurs politiques de publication de contenu impliquant des mineurs.