Systeme d'IA a haut risque

Définition

Un systeme d'IA a haut risque est, au sens de l'AI Act europeen, reglement UE 2024/1689, un systeme d'intelligence artificielle dont l'usage presente un potentiel significatif d'atteinte a la sante, la securite ou les droits fondamentaux des personnes, et qui est soumis a ce titre aux obligations les plus strictes du reglement, hors les systemes a risque inacceptable qui sont interdits. L'annexe III du texte liste les domaines concernes : biometrie, infrastructures critiques, education et formation professionnelle, emploi et gestion des travailleurs, acces aux services essentiels prives et publics comme le credit scoring ou les prestations sociales, application de la loi, migration et asile, et administration de la justice. Un systeme y est aussi classe s'il constitue un composant de securite d'un produit deja soumis a une legislation d'harmonisation de l'Union, comme les dispositifs medicaux, les machines ou les jouets. Les obligations associees incluent un systeme de gestion des risques tout au long du cycle de vie, une gouvernance des donnees d'entrainement, une documentation technique complete, une tenue de journaux automatique, une supervision humaine effective, un niveau de precision, robustesse et cybersecurite adequat, et une evaluation de conformite avant mise sur le marche. Le non-respect expose a des amendes pouvant atteindre 15 millions d'euros ou 3 pour cent du chiffre d'affaires mondial annuel.