Profil de gouvernance IA

Définition

Un profil de gouvernance IA est une declinaison contextualisee d'un cadre generique de gestion des risques, tel que le NIST AI RMF, adaptee a un secteur, un cas d'usage ou une technologie specifique afin de fournir des recommandations operationnelles concretes plutot que des principes generaux. Le NIST publie par exemple un profil dedie a l'IA generative, qui identifie des risques particuliers comme la production de contenu confabule, les hallucinations, la fuite de donnees d'entrainement memorisees, la generation de contenu toxique ou de desinformation a grande echelle, et propose des mesures d'attenuation associees a chaque fonction du cadre general. D'autres profils sectoriels existent ou emergent pour la sante, la defense ou les infrastructures critiques, ou les enjeux de securite et de fiabilite different fortement des usages grand public. Au sein d'une organisation, un profil de gouvernance IA peut aussi designer le document interne qui traduit le cadre de reference choisi, comme le NIST AI RMF, l'ISO/IEC 42001 ou les exigences AI Act, en politiques, roles et procedures concretes adaptes a son propre portefeuille de systemes d'IA : qui valide la mise en production d'un modele, qui est responsable de la surveillance post-deploiement, quels seuils de risque declenchent une escalade. Pour un RSSI, batir ce profil est une etape structurante de la mise en conformite AI Act.