Modèle d'IA à usage général à risque systémique

Définition

Un modèle d'IA à usage général à risque systémique désigne, dans la terminologie du règlement européen sur l'intelligence artificielle, une sous-catégorie de modèles d'IA à usage général dont les capacités sont jugées suffisamment avancées pour avoir un impact potentiellement significatif sur la santé publique, la sécurité, les droits fondamentaux ou la société dans son ensemble, en raison de leur portée ou de leurs effets réels ou raisonnablement prévisibles négatifs. La qualification comme modèle à risque systémique repose principalement sur un critère quantitatif, la puissance de calcul cumulée utilisée pour l'entraînement du modèle mesurée en opérations flottantes par seconde, complété par une possibilité pour la Commission européenne de désigner un modèle comme tel sur la base d'une évaluation qualitative de ses capacités. Les fournisseurs de ces modèles sont soumis à des obligations renforcées par rapport aux autres modèles à usage général : évaluation du modèle selon des protocoles standardisés, y compris des tests contradictoires, évaluation et atténuation des risques systémiques potentiels, suivi et signalement des incidents graves, et garantie d'un niveau de cybersécurité approprié pour le modèle et l'infrastructure physique qui le soutient. Cette catégorie vise spécifiquement les modèles les plus puissants du marché, susceptibles de constituer une infrastructure critique pour un grand nombre d'applications dérivées.