Système d'IA à risque limité (AI Act)

Définition

Un système d'IA à risque limité, selon la classification établie par le règlement européen sur l'intelligence artificielle, désigne une catégorie de systèmes qui ne présentent pas un niveau de risque suffisant pour relever du régime renforcé applicable aux systèmes à haut risque, mais qui restent soumis à des obligations spécifiques de transparence en raison du risque de confusion ou de manipulation qu'ils peuvent créer chez les utilisateurs. Cette catégorie couvre notamment les systèmes destinés à interagir directement avec des personnes physiques, comme les agents conversationnels, pour lesquels le fournisseur doit garantir que l'utilisateur est informé qu'il interagit avec un système d'intelligence artificielle, sauf lorsque cela ressort clairement du contexte d'usage. Elle couvre également les systèmes générant ou manipulant du contenu de type image, audio ou vidéo constituant un hypertrucage, communément appelé deepfake, ainsi que les systèmes de reconnaissance des émotions ou de catégorisation biométrique, pour lesquels une information des personnes concernées est requise. Le contenu généré ou manipulé par un système d'IA destiné à informer le public sur des questions d'intérêt général doit également être signalé comme tel de manière claire. Cette catégorie intermédiaire illustre l'approche graduée du règlement, qui module l'intensité des obligations selon le potentiel réel de préjudice pour les utilisateurs plutôt que d'appliquer un régime uniforme à tous les systèmes d'IA.