Agents IA (AI Agents)
iaDéfinition
Les agents IA autonomes sont des systèmes combinant un LLM avec des capacités d'action (outils, API, exécution de code) pour accomplir des tâches complexes de manière semi-autonome. Un agent suit une boucle perception-raisonnement-action : il perçoit un contexte, planifie via le LLM (souvent avec chain-of-thought), sélectionne et exécute des outils (function calling, MCP), puis itère jusqu'à accomplissement de l'objectif. Les patterns de conception incluent ReAct, Plan-and-Execute, et les architectures multi-agents. Les frameworks populaires sont LangGraph, CrewAI, AutoGen, OpenAI Swarm et Anthropic Computer Use. En cybersécurité, les risques sont l'excessive agency (OWASP LLM06), la propagation de prompt injection entre agents, et le détournement de l'agent pour des actions non autorisées. Les contre-mesures incluent le principe de moindre privilège appliqué aux outils et la validation humaine pour les actions à fort impact.
Architecture d'un agent IA
- Perception : traitement des entrées (texte, images, données structurées)
- Raisonnement : planification via Chain-of-Thought ou ReAct
- Action : exécution via function calling, API, navigation web
- Mémoire : court terme (contexte) et long terme (base vectorielle)
Risques de sécurité
Les agents IA créent de nouvelles surfaces d'attaque : prompt injection indirecte, escalade de privilèges via les outils, exfiltration de données via les actions autonomes. Le framework OWASP Top 10 for LLM couvre spécifiquement les risques agents.
Besoin d'un expert sur ce sujet ?
Audit, pentest, conformité ISO 27001, développement IA sécurisé — demandez un devis gratuit.
Demander un devis