Empoisonnement de la chaîne d'approvisionnement de modèles
iaDéfinition
L'empoisonnement de la chaine d'approvisionnement de modeles est une attaque qui compromet un composant IA en amont de son integration finale : jeu de donnees public, modele pre-entraine partage sur un hub comme Hugging Face, bibliotheque logicielle, ou pipeline de fine-tuning tiers. L'attaquant modifie discretement l'un de ces elements pour y inserer une porte derobee, un biais ou une vulnerabilite qui se propage a tous les systemes reutilisant ce composant, un effet multiplicateur particulierement dangereux dans un ecosystème ou le reentrainement complet d'un grand modele reste rare. Les vecteurs incluent le typosquatting de noms de modeles, la compromission de comptes de mainteneurs, l'insertion de code malveillant dans les scripts de chargement (pickle deserialization notamment), ou la publication de poids corrompus se faisant passer pour une version legitime. L'OWASP LLM Top 10 classe ce risque parmi les priorites majeures de securite des LLM, aux cotes du data poisoning. Les contre-mesures recommandees incluent la verification cryptographique des hashs de modeles, l'usage de formats securises comme safetensors plutot que pickle, l'audit des dependances via des outils de SBOM (Software Bill of Materials) adaptes a l'IA, et la tracabilite complete de la provenance exigee par les cadres de gouvernance comme ISO/IEC 42001.
Articles liés
Expert en cybersécurité offensive et intelligence artificielle. Pentest, audit et développement IA sur-mesure.
Services
- Audit Infrastructure
- Audit Kubernetes
- Audit Microsoft 365
- Audit Sécurité Réseau
- Analyse de Risques
- Audit Active Directory
- Audit Application Web
- Audit Cloud (AWS/Azure/GCP)
- Audit Messagerie
- Audit API (OWASP Top 10)
- Audit DevSecOps & CI/CD
- Audit Code Source (SAST)
- Audit Postes de Travail
- Audit Sauvegarde & Résilience
- Audit OT/SCADA (IEC 62443)
- Développement IA
- Formations
Ressources
Projets & Outils
© 2026 Ayi NEDJIMI Consultants. Tous droits réservés.
Un projet cybersécurité ?
Expert dispo · Réponse 24h