Training (Entraînement IA)

Définition

L'entraînement, ou training, est le processus par lequel un modèle de machine learning ajuste ses paramètres internes à partir d'un jeu de données afin de minimiser l'écart entre ses prédictions et les résultats attendus, via des algorithmes d'optimisation itératifs comme la descente de gradient dans le cas des réseaux de neurones. La qualité, la représentativité et l'intégrité des données d'entraînement conditionnent directement la fiabilité et l'équité du modèle final, un biais présent dans le jeu de données se répercutant mécaniquement dans les prédictions produites. Sur le plan sécurité, la phase d'entraînement constitue une surface d'attaque à part entière, documentée dans le référentiel MITRE ATLAS : l'empoisonnement de données consiste à injecter des exemples malveillants dans le corpus d'entraînement pour dégrader la performance du modèle ou y insérer une porte dérobée activable par un déclencheur spécifique, tandis que l'attaque par inférence d'appartenance permet de déterminer si une donnée précise a été utilisée durant l'entraînement, posant un risque de confidentialité. En défense, la traçabilité et la validation de la provenance des données d'entraînement, l'application de techniques de confidentialité différentielle lorsque des données sensibles sont concernées, l'isolation de l'environnement d'entraînement, et des tests de robustesse post-entraînement avant toute mise en production constituent des pratiques de sécurisation essentielles du cycle de vie du modèle.