Detection de contenu genere par IA

Définition

La detection de contenu genere par IA regroupe les methodes techniques permettant d'identifier si un texte, une image, un audio ou une video ont ete produits, en tout ou partie, par un systeme d'intelligence artificielle plutot que par un humain. Deux grandes approches coexistent : la detection a posteriori, qui analyse des artefacts statistiques ou perceptuels du contenu final, comme la perplexite anormalement faible d'un texte ou des incoherences visuelles dans une image, et la detection basee sur le filigrane, qui verifie la presence d'une marque inseree volontairement lors de la generation. Les outils de detection s'appuient souvent sur des classifieurs entraines a distinguer les distributions statistiques propres aux modeles generatifs des productions humaines. Leurs performances restent imparfaites et se degradent rapidement face aux techniques d'evasion, de paraphrase ou de post-traitement, generant des taux de faux positifs et faux negatifs significatifs, un enjeu critique en contexte academique ou journalistique. Cette limite technique explique pourquoi la reglementation, notamment l'AI Act europeen, privilegie des obligations de marquage a la source plutot qu'une detection fiable a posteriori. Pour les organisations, la detection de contenu genere par IA s'integre dans des enjeux de lutte contre la desinformation, de moderation de contenu et de verification de l'authenticite des preuves numeriques.