Aller au contenu principal
Expert Cybersécurité & IAv9.0
Centres de ressources conformité
Besoin d'un accompagnement expert ?
Devis personnalisé sous 24h — audit, conformité, incident
Checklists Sécurité — Audit & Durcissement
Formats disponibles
📄 PDF 📊 Excel 🌐 Web

11 checklists professionnelles couvrant 2 200+ points de contrôle. Téléchargement gratuit, aucune inscription.

Empoisonnement de la chaîne d'approvisionnement de modèles

ia

Définition

L'empoisonnement de la chaine d'approvisionnement de modeles est une attaque qui compromet un composant IA en amont de son integration finale : jeu de donnees public, modele pre-entraine partage sur un hub comme Hugging Face, bibliotheque logicielle, ou pipeline de fine-tuning tiers. L'attaquant modifie discretement l'un de ces elements pour y inserer une porte derobee, un biais ou une vulnerabilite qui se propage a tous les systemes reutilisant ce composant, un effet multiplicateur particulierement dangereux dans un ecosystème ou le reentrainement complet d'un grand modele reste rare. Les vecteurs incluent le typosquatting de noms de modeles, la compromission de comptes de mainteneurs, l'insertion de code malveillant dans les scripts de chargement (pickle deserialization notamment), ou la publication de poids corrompus se faisant passer pour une version legitime. L'OWASP LLM Top 10 classe ce risque parmi les priorites majeures de securite des LLM, aux cotes du data poisoning. Les contre-mesures recommandees incluent la verification cryptographique des hashs de modeles, l'usage de formats securises comme safetensors plutot que pickle, l'audit des dependances via des outils de SBOM (Software Bill of Materials) adaptes a l'IA, et la tracabilite complete de la provenance exigee par les cadres de gouvernance comme ISO/IEC 42001.

Articles liés

Un projet cybersécurité ?

Expert dispo · Réponse 24h

Devis