Liste de refus de sujets sensibles

Définition

Une liste de refus de sujets sensibles, ou denylist thematique, est un dispositif de controle qui recense explicitement les themes, mots-cles ou intentions pour lesquels un systeme d'IA generative doit refuser de repondre ou fournir une reponse standardisee de refus. Contrairement a un classifieur statistique entraine sur des exemples, cette liste repose sur des regles declaratives et deterministes, plus simples a auditer et a expliquer a un regulateur ou a un client, mais aussi plus faciles a contourner par reformulation ou par des attaques d'obfuscation. Les sujets typiquement couverts incluent la fabrication d'armes, les conseils medicaux ou juridiques non encadres, la manipulation de mineurs, ou des sujets specifiques au secteur d'activite de l'organisation, comme des informations financieres reglementees. Cette approche est souvent utilisee en complement d'un classifieur de garde-fou, notamment dans des secteurs a forte contrainte de conformite ou pour repondre a des exigences internes de gouvernance. Sa principale limite est la couverture necessairement incomplete face a la creativite des formulations d'attaque et l'absence de generalisation a des variantes non prevues dans la liste. Une gouvernance efficace combine la liste de refus avec des mecanismes statistiques complementaires et une revue reguliere des journaux de conversation pour identifier de nouveaux sujets sensibles a integrer.