Systeme d'IA a risque inacceptable

Définition

Un systeme d'IA a risque inacceptable est, au sens de l'article 5 de l'AI Act europeen, un systeme d'intelligence artificielle dont les pratiques sont jugees contraires aux valeurs fondamentales de l'Union et donc purement et simplement interdites sur le marche europeen, sans possibilite de mise en conformite. Le reglement liste explicitement ces pratiques interdites : les techniques de manipulation subliminale ou trompeuse alterant substantiellement le comportement d'une personne au detriment de sa capacite a prendre une decision eclairee, l'exploitation des vulnerabilites liees a l'age, au handicap ou a la situation sociale ou economique, la notation sociale generalisee par des autorites publiques ou privees, l'evaluation du risque de commettre une infraction penale fondee uniquement sur le profilage, la constitution de bases de donnees de reconnaissance faciale par extraction non ciblee d'images issues d'internet ou de la videosurveillance, la reconnaissance des emotions sur le lieu de travail et dans les etablissements d'enseignement sauf exceptions medicales ou de securite, et l'identification biometrique a distance en temps reel dans les espaces publics a des fins repressives, sauf exceptions strictement encadrees comme la recherche de victimes ou la prevention de menaces terroristes. Ces interdictions sont entrees en application les premieres, des fevrier 2025, avant les autres obligations de l'AI Act.