Multi-Agent Systems (IA)

Définition

Les systèmes multi-agents en intelligence artificielle désignent des architectures dans lesquelles plusieurs agents autonomes, chacun généralement piloté par un grand modèle de langage spécialisé, collaborent, négocient ou se coordonnent pour accomplir une tâche complexe décomposée en sous-tâches, avec échange d'informations et éventuellement délégation d'actions entre agents. Ces architectures gagnent en adoption pour automatiser des flux de travail sophistiqués, un agent planificateur pouvant par exemple déléguer une recherche documentaire à un agent spécialisé puis une action système à un autre agent disposant des permissions nécessaires. Cette complexité accrue élargit significativement la surface d'attaque par rapport à un agent unique : un contenu malveillant injecté dans la sortie d'un agent peut se propager et corrompre le raisonnement des agents en aval, phénomène parfois désigné par le terme d'injection de prompt indirecte transitive, et l'attribution précise de responsabilité en cas d'action dommageable devient plus complexe à établir. En défense, la limitation stricte des permissions accordées à chaque agent selon le principe de moindre privilège, l'isolation des canaux de communication inter-agents avec validation du contenu échangé, la journalisation exhaustive de chaque décision et action prise par chaque agent, et l'introduction de points de validation humaine avant toute action à fort impact constituent des garde-fous indispensables dans le déploiement de tels systèmes en environnement de production.