De GenAI à Agentic AI : Évolution des Risques de Sécurité

En janvier 2025, la majorité des déploiements IA en entreprise étaient des chatbots et des assistants de rédaction. En juillet 2026, les systèmes agentiques autonomes représentent une part croissante des nouveaux projets IA en production. La transition s'est accélérée avec la disponibilité de frameworks matures (LangGraph, AutoGen, CrewAI), de LLMs avec des fenêtres de contexte larges permettant une mémoire étendue, et d'APIs d'outils standardisées (MCP, OpenAI Functions). Pour les équipes IT et sécurité, cette transition soulève des questions qui n'avaient pas de précédent deux ans plus tôt.

GenAI vs Agentic AI : quelle est la différence fondamentale ?

La différence entre un système GenAI et un agent IA autonome peut se résumer à une question : qui décide de l'action suivante ? Dans un système GenAI classique, c'est l'humain. Le LLM génère du texte, l'humain l'évalue, décide quoi en faire, puis formule la requête suivante. Dans un système agentique, c'est l'agent lui-même. Il reçoit un objectif de haut niveau ("analyse ces 200 rapports financiers et identifie les anomalies"), puis planifie les étapes, exécute les actions nécessaires (lire les fichiers, parser les données, appeler une API d'analyse), interprète les résultats intermédiaires, et itère jusqu'à atteindre l'objectif — sans validation humaine à chaque étape.

Cette autonomie décisionnelle est précisément ce qui crée la valeur. Elle est aussi précisément ce qui crée le risque. Un humain qui prend une mauvaise décision sur la base d'une réponse LLM incorrecte peut s'auto-corriger. Un agent IA autonome qui prend une mauvaise décision peut l'exécuter et ses conséquences être irréversibles avant qu'un humain ne les remarque.

Quelles sont les quatre composantes définissant un agent IA ?

Toute architecture agentique, de la plus simple à la plus complexe, repose sur quatre composantes fondamentales. La mémoire permet à l'agent de maintenir un état cohérent entre les étapes de son plan d'exécution : mémoire de travail (contexte de la session en cours), mémoire épisodique (historique des sessions passées), et mémoire sémantique (base de connaissances via RAG). Les outils sont les interfaces via lesquelles l'agent interagit avec les systèmes externes : outils de recherche et récupération d'information, outils d'action (écriture, envoi, création), outils de calcul et d'analyse, et outils d'orchestration d'autres agents. La planification est la capacité à décomposer un objectif complexe en sous-tâches réalisables et à orchestrer leur exécution dans le bon ordre. L'action est l'exécution effective des sous-tâches via les outils disponibles.

C'est la combinaison des quatre qui distingue un agent d'un simple LLM avec quelques outils. Un LLM qui peut chercher sur le web est un LLM avec un outil. Un agent qui planifie une séquence de recherches, analyse les résultats, décide d'actions correctives en fonction des gaps identifiés, et produit un rapport structuré en autonomie est un agent avec mémoire, outils, planification et capacité d'action.

Les frameworks agentiques en 2026 : LangGraph, AutoGen, CrewAI, MetaGPT

LangGraph (LangChain) est devenu en 2026 le standard de facto pour les agents de production complexes. Son modèle de graphe d'état (StateGraph) permet de définir précisément les flux d'exécution, les conditions de transition, et les nœuds de validation humaine. La granularité du contrôle est son principal avantage pour les cas d'usage à risque élevé.

AutoGen (Microsoft) excelle pour les architectures multi-agents collaboratifs. Son modèle de groupchat où des agents spécialisés interagissent via un orchestrateur est particulièrement adapté aux workflows complexes nécessitant des expertises multiples. La configuration de sécurité par agent dans AutoGen permet un contrôle granulaire des permissions.

CrewAI propose une abstraction de haut niveau avec le concept de "crew" (équipe d'agents) et de "task" (tâche assignée à un agent). Son mode hiérarchique avec un manager agent est bien adapté aux architectures avec Guardian Agents. La courbe d'apprentissage plus faible que LangGraph en fait le choix des équipes non-spécialisées.

MetaGPT se distingue par son focus sur les workflows de développement logiciel avec des rôles d'agents mappés sur les rôles humains (product manager, architect, developer, QA). Il est moins adapté aux cas d'usage généralistes mais très efficace pour l'automatisation de pipelines de développement. Pour la gouvernance complète de ces frameworks, notre guide d'orchestration d'agents IA détaille les patterns de sécurité pour chacun.

La question qu'on me pose systématiquement en début d'accompagnement : "quel framework choisir ?" Ma réponse invariable : le bon framework est celui que votre équipe comprend suffisamment pour en sécuriser l'usage, pas nécessairement le plus puissant sur le papier. Un LangGraph mal compris est plus dangereux qu'un CrewAI bien maîtrisé.

— Retour terrain, accompagnement agentic AI, 2026

Quels sont les nouveaux vecteurs de risque propres à l'agentic AI ?

Les risques spécifiques à l'agentic AI qui n'existaient pas ou existaient de façon marginale en GenAI classique incluent quatre catégories principales. La prompt injection (directe et indirecte) est amplifiée dans le contexte agentique parce que l'agent a des outils réels — une injection réussie peut déclencher des actions, pas seulement des outputs inappropriés. Voir notre analyse complète de la prompt injection sur agents IA.

Le permission creep est la tendance des agents à accumuler des permissions au-delà de leur périmètre initial, par commodité ou par nécessité apparente. Sans audit régulier, un agent initialement limité se retrouve avec des accès à des systèmes non prévus. Le cascading failure est le risque propre aux systèmes multi-agents : une erreur ou un comportement aberrant d'un agent peut se propager à ses agents subordonnés ou à ses agents partenaires. Enfin, le goal drift — l'agent optimise progressivement pour un proxy de l'objectif qui diverge de l'intention réelle — peut produire des comportements problématiques qui passent inaperçus parce que superficiellement cohérents avec la mission déclarée.

Gouvernance de l'agentic AI : ce que les DSI doivent anticiper

La gouvernance d'un déploiement agentique doit répondre à cinq questions fondamentales avant le premier agent en production. Qui peut créer des agents (rôles autorisés, processus d'approbation) ? Quels outils sont autorisés (liste blanche organisationnelle des outils validés) ? Comment les agents sont-ils supervisés (monitoring, audit trail, Guardian Agents pour les systèmes complexes) ? Quand la validation humaine est-elle requise (tiers d'action P0/P1/P2) ? Et comment les agents sont-ils dépréciés (processus de fin de vie, révocation des credentials, archivage des logs) ?

Ces cinq questions structurent la politique agentique organisationnelle. En l'absence de politique, chaque équipe invente sa propre approche, avec des niveaux de sécurité hétérogènes et des risques difficiles à cartographier au niveau de la DSI. Notre checklist de sécurité agentique fournit la base technique pour implémenter cette politique. Le NIST AI RMF et l'AI Act européen fournissent le cadre réglementaire.

Cas d'usage à forte valeur de l'agentic AI en entreprise

Les cas d'usage à ROI documenté en 2025-2026 couvrent l'analyse de documents complexes (agent qui lit des centaines de contrats, identifie les clauses à risque, et produit un rapport structuré), l'automatisation du support IT niveau 1 et 2 (agent qui diagnostique les incidents courants et applique des remédiation standardisées), le monitoring de sécurité augmenté (agent qui analyse les alertes SIEM et priorise les incidents — voir notre guide du SOC augmenté par IA), et l'automatisation de workflows d'onboarding et de compliance.

Pour chacun de ces cas d'usage, la valeur est conditionnée à une sécurisation adéquate. Notre service de RSSI externalisé accompagne les organisations dans l'évaluation du ROI réel (valeur créée moins risques acceptés) de leurs déploiements agentiques. Une évaluation de sécurité dédiée permet de valider l'architecture avant la mise en production.

Comment planifier concrètement la migration de GenAI vers l'agentic AI ?

La transition de la GenAI vers l'agentic AI ne se fait pas en un seul saut. Les organisations qui réussissent cette transition suivent typiquement une progression en quatre phases. Phase 1 — Agent avec outil unique : partir d'un LLM existant et lui ajouter un seul outil (généralement la recherche web ou l'accès à une base de données interne). Cette phase permet à l'équipe de se familiariser avec le pattern action-observation-itération sans la complexité d'un système multi-outils. Durée typique : 2 à 4 semaines. Risque : faible à modéré. Phase 2 — Agent multi-outils, périmètre restreint : étendre à 3 à 5 outils couvrant les cas d'usage prioritaires, avec des permissions strictement limitées et un human-in-the-loop sur toutes les actions externes. Durée typique : 1 à 2 mois. Risque : modéré — nécessite les contrôles P0 de la checklist sécurité agentique.

Phase 3 — Agent autonome en production : réduire les interventions humaines sur les actions standardisées, maintenir le human-in-the-loop uniquement pour les actions irréversibles ou à fort impact. Implémenter le monitoring comportemental complet et les contrôles P1. Durée typique : 2 à 3 mois, avec une période de supervision intensive initiale. Risque : élevé — nécessite les contrôles P0 et P1 en place, et idéalement un Guardian Agent pour les workflows critiques. Phase 4 — Système multi-agents : introduire la collaboration entre agents spécialisés pour les workflows de haute valeur. Cette phase est réservée aux organisations ayant une solide maturité sur les phases précédentes. Les risques spécifiques aux systèmes multi-agents nécessitent une préparation sécuritaire supplémentaire.

Quelles sont les erreurs les plus fréquentes lors de la transition vers l'agentic AI ?

Les organisations qui ont rencontré des difficultés significatives lors de leur transition agentique partagent généralement les mêmes patterns d'erreur. L'erreur la plus fréquente est le saut direct à la complexité maximale : déployer un système multi-agents complet pour le premier cas d'usage, sans phase d'apprentissage sur un agent simple. L'équipe n'a pas développé les réflexes de supervision nécessaires, et quand un comportement aberrant apparaît dans le système complexe, il est très difficile à diagnostiquer. La règle : commencer par l'agent le plus simple qui apporte de la valeur.

La deuxième erreur est la négligence des outils hors-périmètre. Des équipes focalisées sur le cas d'usage principal de l'agent négligent de vérifier si l'agent a accès à des outils non nécessaires pour ce cas d'usage. Un agent de rédaction d'emails qui a aussi accès à l'envoi d'emails est un risque — même si le cas d'usage prévu ne nécessite que la rédaction. Le manifeste d'outils doit être défini en partant de zéro (aucun outil) et en ajoutant uniquement ce qui est strictement nécessaire, pas en partant d'un accès complet et en retirant ce qui est "évident".

La troisième erreur est de sous-estimer la dérive comportementale dans le temps. Un agent dont le comportement est parfaitement conforme à la mise en production peut dériver progressivement si ses inputs évoluent (nouvelles données dans le RAG, nouveaux utilisateurs avec des patterns d'usage différents, évolution du contexte métier). Sans monitoring comportemental continu et sans revue périodique, cette dérive n'est détectée qu'au moment d'un incident. La mise en place d'un système de monitoring comportemental dès le premier jour est donc critique, même pour les déploiements à risque apparemment faible.

Quels secteurs voient les meilleurs ROI de l'agentic AI en 2026 ?

Les retours d'expérience de 2025-2026 montrent des ROI substantiels dans plusieurs secteurs. En finance et assurance : les agents de traitement des demandes clients (sinistres, conformité KYC, analyse de crédit) réduisent les délais de traitement de 60 à 80% sur les dossiers standardisés. Les agents de monitoring de conformité réglementaire (lecture et classification automatique des nouvelles réglementations) réduisent la charge de veille réglementaire de 40 à 60%. En cybersécurité : les agents de triage des alertes SIEM réduisent le volume d'alertes que les analystes humains doivent examiner manuellement de 70 à 85%, en traitant automatiquement les faux positifs et les incidents de niveau 1. En juridique : les agents d'analyse contractuelle permettent de traiter des volumes de contrats 5 à 10 fois supérieurs avec le même effectif d'analystes humains.

Ces ROI sont conditionnés à une sécurisation et une supervision adéquates. Notre service de RSSI externalisé accompagne les organisations dans l'évaluation du ROI réel, en intégrant les coûts de sécurisation et les risques résiduels dans le calcul économique. L'AI Safety Institute du NIST a publié en 2026 un guide d'évaluation des bénéfices et risques des systèmes IA autonomes qui constitue une ressource précieuse pour cette analyse. L'AI Act européen impose d'ailleurs pour les systèmes à risque élevé une documentation de l'analyse risque-bénéfice dans le dossier technique.

Questions fréquentes sur la transition vers l'agentic AI

À quel moment une organisation est-elle prête pour l'agentic AI ?

Trois critères pratiques : (1) la maturité GenAI est établie — l'organisation gère déjà des LLM en production avec des pratiques de sécurité basiques ; (2) des cas d'usage à valeur claire et périmètre délimité ont été identifiés (éviter les agents "à périmètre ouvert" en premier déploiement) ; (3) une équipe est disponible pour la supervision initiale — les premiers agents en production nécessitent une supervision humaine soutenue pendant les premières semaines pour calibrer les comportements attendus.

Quelle est la différence entre un agent IA et un workflow d'automatisation classique (RPA) ?

Un workflow RPA est déterministe : chaque étape est préprogrammée et produit un résultat prévisible. Un agent IA est adaptatif : il décide de ses actions en fonction du contexte et peut gérer des situations non anticipées lors de la programmation. L'agent est donc plus flexible et capable de gérer des cas complexes, mais aussi moins prévisible et plus difficile à auditer. Pour les processus bien définis et répétitifs, le RPA reste souvent préférable. Pour les processus complexes, ambigus, ou nécessitant du jugement, l'agent IA apporte une valeur unique.

Les agents IA peuvent-ils être déployés on-premise pour des raisons de confidentialité ?

Oui, c'est même recommandé pour les données sensibles. Les LLMs open source (Llama 3, Mistral, Qwen) peuvent être déployés on-premise et servir de base aux agents via des frameworks comme LangGraph. Les performances sont en retrait par rapport aux APIs cloud pour les tâches complexes, mais la confidentialité est totalement maîtrisée. Notre guide du red teaming LLM on-premise couvre les spécificités de sécurité de ces déploiements.

Comment mesurer le ROI d'un déploiement agentique en incluant les coûts de sécurité ?

La formule de base : ROI = (valeur créée par l'agent) - (coût d'infrastructure + coût de développement + coût de sécurisation + coût de supervision + coût des incidents). Les trois derniers termes sont systématiquement sous-estimés dans les projets pilotes. Un agent qui économise 10h/semaine de travail humain mais nécessite 5h/semaine de supervision et génère un incident tous les trois mois a un ROI très différent du calcul initial.

La transition inévitable, à condition d'être préparée

La transition vers l'agentic AI est en cours dans toutes les industries et ne se réversera pas. Les organisations qui la préparent soigneusement — en adaptant leur gouvernance, leurs pratiques de sécurité et leurs capacités de supervision — en tireront des avantages compétitifs substantiels. Celles qui la subissent sans préparation s'exposent à des incidents dont l'impact dépasse largement celui des incidents GenAI classiques. La différence n'est pas dans la décision de transitionner, mais dans comment. Notre service de RSSI externalisé vous accompagne dans cette transition.

La transition vers l'agentic AI est aussi une opportunité de professionnaliser les pratiques de développement IA dans l'ensemble de l'organisation. Les disciplines qui émergent — agent architecture design, agentic security engineering, behavioral monitoring de LLM — sont nouvelles et les compétences rares. Investir dans la montée en compétence des équipes dès aujourd'hui, avant que les déploiements ne se multiplient et que les incidents ne surviennent, est la stratégie la plus efficace. Notre service de RSSI externalisé peut accompagner cette montée en compétence via des formations, des revues d'architecture, et un support continu pendant la phase de transition. Pour les organisations souhaitant évaluer leur maturité avant de lancer des projets agentiques, une évaluation de sécurité de l'infrastructure existante constitue un point de départ utile.

Conclusion

Ce sujet s'inscrit dans un contexte de menaces en constante évolution. La meilleure protection combine veille active, audits réguliers et sécurité by design. Pour approfondir ou évaluer votre exposition, consultez nos experts.