Supervision humaine effective

Définition

La supervision humaine effective designe l'ensemble des mesures organisationnelles et techniques garantissant qu'une personne peut comprendre, surveiller et, si necessaire, corriger ou arreter le fonctionnement d'un systeme d'intelligence artificielle. L'AI Act europeen l'impose explicitement pour les systemes a haut risque, exigeant que les personnes chargees de cette supervision disposent des competences, de l'autorite et du temps necessaires pour intervenir, sans se contenter d'entaliser les recommandations du systeme, phenomene connu sous le nom de biais d'automatisation. Une supervision effective implique concretement la possibilite d'interrompre le systeme, dite bouton d'arret ou stop-mecanisme, la mise a disposition d'explications comprehensibles sur les sorties produites, et la formation des operateurs aux limites connues du modele, notamment ses taux d'erreur documentes. Elle se distingue d'une supervision purement formelle ou cosmetique, ou l'humain valide systematiquement la sortie de l'IA sans capacite reelle de remise en question, situation frequemment critiquee dans les systemes de scoring automatise ou de moderation de contenu. Les organismes de controle evaluent la supervision humaine au travers de criteres tels que le taux de contestation effectif des decisions, la charge cognitive imposee a l'operateur et l'existence de procedures d'escalade documentees, elements desormais integres dans les audits de conformite AI Act.