Empoisonnement de données d'entraînement ciblé
iaDéfinition
L'empoisonnement de donnees d'entrainement cible est une attaque qui consiste a injecter des exemples malveillants specifiquement concus dans le jeu de donnees d'apprentissage d'un modele d'IA, afin de provoquer un comportement precis et predetermine sur des entrees particulieres, sans degrader la performance globale du modele qui resterait sinon detectable. Contrairement a un empoisonnement generique visant a degrader toute la performance, l'attaque ciblee vise un declencheur specifique : une classe, un utilisateur, un mot-cle ou un motif visuel. Elle exploite les pipelines de collecte de donnees ouverts, le scraping web, les plateformes de crowdsourcing ou les donnees federees ou l'attaquant peut inserer du contenu sans controle centralise strict. Des techniques comme le label flipping, l'insertion de features discriminantes ou la generation de donnees synthetiques malveillantes permettent d'atteindre l'objectif avec un faible pourcentage d'exemples corrompus, parfois moins de 1% du jeu total. Cette menace est documentee dans l'OWASP LLM Top 10 sous la categorie data poisoning et dans le NIST AI RMF comme risque majeur de la chaine d'approvisionnement en donnees. La defense repose sur la provenance verifiee des donnees, la detection d'anomalies statistiques et l'audit regulier des jeux d'entrainement avant chaque cycle de reentrainement.
Articles liés
Expert en cybersécurité offensive et intelligence artificielle. Pentest, audit et développement IA sur-mesure.
Services
- Audit Infrastructure
- Audit Kubernetes
- Audit Microsoft 365
- Audit Sécurité Réseau
- Analyse de Risques
- Audit Active Directory
- Audit Application Web
- Audit Cloud (AWS/Azure/GCP)
- Audit Messagerie
- Audit API (OWASP Top 10)
- Audit DevSecOps & CI/CD
- Audit Code Source (SAST)
- Audit Postes de Travail
- Audit Sauvegarde & Résilience
- Audit OT/SCADA (IEC 62443)
- Développement IA
- Formations
Ressources
Projets & Outils
© 2026 Ayi NEDJIMI Consultants. Tous droits réservés.
Un projet cybersécurité ?
Expert dispo · Réponse 24h