IA Générative

Définition

L'IA générative désigne une famille de modèles d'intelligence artificielle capables de produire du contenu original, texte, image, audio ou code, en apprenant la distribution statistique sous-jacente à un vaste corpus de données d'entraînement, plutôt que de se limiter à classifier ou prédire une valeur à partir de données existantes. Les grands modèles de langage (LLM), s'appuyant majoritairement sur l'architecture Transformer, en constituent l'application la plus répandue en entreprise, utilisés pour la génération de texte, l'assistance au code ou l'analyse documentaire. Cette technologie introduit des risques de sécurité spécifiques, référencés dans le OWASP Top 10 for LLM Applications : l'injection de prompt, où un attaquant manipule les instructions du modèle via une entrée utilisateur ou un document externe pour détourner son comportement prévu ; la fuite d'informations sensibles présentes dans les données d'entraînement ou le contexte fourni ; et la génération de contenu halluciné, factuellement erroné mais présenté avec assurance. En défense, l'application du principe de moindre privilège aux outils accessibles par un agent IA, la validation systématique des entrées et sorties du modèle, la journalisation des interactions pour permettre un audit, et la sensibilisation des utilisateurs aux limites factuelles de ces systèmes constituent des mesures indispensables. L'AI Act européen encadre désormais formellement les obligations de transparence et de gestion des risques associées à ces technologies.