Pratique d'IA interdite (AI Act)

Définition

Une pratique d'IA interdite, au sens du règlement européen sur l'intelligence artificielle, désigne un usage de systèmes d'intelligence artificielle jugé incompatible avec les valeurs fondamentales de l'Union européenne et prohibé sans exception ni possibilité de mise en conformité, contrairement aux systèmes à haut risque qui restent autorisés sous conditions. Le règlement liste plusieurs catégories de pratiques interdites, notamment les techniques de manipulation subliminale ou délibérément trompeuse altérant substantiellement le comportement d'une personne d'une manière susceptible de lui causer un préjudice, l'exploitation des vulnérabilités liées à l'âge, au handicap ou à une situation sociale ou économique particulière, la notation sociale généralisée des individus par les autorités publiques conduisant à un traitement défavorable injustifié, ainsi que, sous réserve d'exceptions très encadrées, l'identification biométrique à distance en temps réel dans des espaces accessibles au public à des fins répressives. S'y ajoutent l'inférence des émotions sur le lieu de travail et dans les établissements d'enseignement en dehors de motifs médicaux ou de sécurité, le moissonnage non ciblé d'images faciales pour constituer des bases de données de reconnaissance faciale, et la catégorisation biométrique visant à déduire des données sensibles comme l'origine raciale ou les opinions politiques. Le non-respect de cette interdiction expose à des sanctions parmi les plus élevées prévues par le règlement.