Système d'IA à haut risque (AI Act)

Définition

Un système d'IA à haut risque, au sens du règlement européen sur l'intelligence artificielle, est un système dont l'usage est susceptible d'affecter significativement la santé, la sécurité ou les droits fondamentaux des personnes, ce qui justifie qu'il soit soumis à un ensemble d'obligations renforcées avant sa mise sur le marché et tout au long de son cycle de vie. Le règlement identifie ces systèmes selon deux voies principales : ceux intégrés en tant que composant de sécurité dans des produits déjà soumis à une législation d'harmonisation européenne, comme les dispositifs médicaux ou les machines, et ceux relevant de domaines d'usage listés en annexe, tels que le recrutement, l'évaluation de la solvabilité, l'accès aux services essentiels, l'éducation, la gestion de la main-d'œuvre ou certains usages dans le domaine judiciaire et migratoire. Pour ces systèmes, le fournisseur doit mettre en place un système de gestion des risques, assurer une gouvernance rigoureuse des données d'entraînement, produire une documentation technique détaillée, garantir un niveau de précision, de robustesse et de cybersécurité approprié, et permettre une supervision humaine effective. Une évaluation de la conformité doit être réalisée avant la mise sur le marché, suivie d'un enregistrement dans une base de données publique de l'Union européenne. Pour les entreprises qui déploient de tels systèmes, l'enjeu principal est d'identifier précocement leur statut réglementaire.