Human-in-the-Loop (HITL)

Définition

Le Human-in-the-Loop (HITL) est une architecture de conception de systèmes d'intelligence artificielle intégrant une étape de validation ou d'intervention humaine explicite dans le processus décisionnel, particulièrement pour les décisions à fort impact ou à risque élevé, plutôt que de laisser le système opérer en autonomie complète. Concrètement, le modèle IA propose une recommandation, une classification ou une action, mais celle-ci est soumise à la revue, la correction ou la validation d'un opérateur humain avant exécution finale, notamment dans des contextes réglementés comme l'octroi de crédit, le diagnostic médical assisté, la modération de contenu ou les décisions affectant les droits des personnes au sens de l'article 22 du RGPD, qui encadre strictement les décisions automatisées produisant des effets juridiques. Le HITL sert également en phase d'entraînement, via l'apprentissage par renforcement à partir de feedback humain (RLHF), où des évaluateurs humains notent la qualité des sorties d'un modèle pour affiner son comportement, technique largement employée dans l'entraînement des grands modèles de langage conversationnels. Au-delà de la conformité éthique et réglementaire, le HITL constitue un garde-fou opérationnel contre les biais algorithmiques, les hallucinations et les erreurs de généralisation des modèles, tout en permettant une amélioration continue du système par capture systématique des corrections humaines. L'AI Act européen impose explicitement une supervision humaine pour les systèmes d'IA à haut risque.