Systèmes d'agents et standards · Chapitre 8 sur 8
Évaluation et sécurité
Tester un système d'agents avec des cas et des contrôles, l'attaquer par injection et altération, et rapporter les échecs aux risques agentiques de l'OWASP.
Objectifs
- Lancez la suite d'évaluation sur l'agent sans protection.À faire
- Activez des défenses et relancez jusqu'à ce que chaque cas passe.À faire
- Associez trois échecs à leurs risques OWASP.À faire
- Réussissez la vérification.À faire
Étape 1 sur 4 : La lecture
Les évaluations
Une évaluation est un ensemble de cas, chacun avec des contrôles. Les contrôles en code sont exacts : une valeur, un schéma, un montant qui doit figurer dans les résultats d'outils. Un contrôle de résultat lit ce que les outils ont fait. Un contrôle de trajectoire lit les appels d'outils dans l'ordre où ils ont tourné : l'agent a-t-il consulté les débits avant de rembourser ? Un modèle peut servir de juge pour ce que le code ne peut pas mesurer, comme le ton, mais il peut se tromper, donc utilisez-le avec prudence et comparez-le à des personnes. Lancez la suite à chaque changement : elle ne peut pas prouver qu'un agent est sûr, mais elle montre quand un changement casse un cas qui passait.
Les attaques
L'injection de prompt directe vient de l'utilisateur. L'injection indirecte cache des instructions dans ce que l'agent lit : tickets, documents, résultats d'outils. L'altération modifie des messages sur le fil, entre un agent et un serveur d'outils ou un autre agent. Le détournement d'outil pousse un agent à appeler un outil qu'il ne devrait pas, ou avec des arguments que personne n'a approuvés.
Les défenses
Les défenses qui vivent dans le code tiennent à chaque fois. Autour d'un agent, ce sont des middlewares : du code qui tourne avant, après ou autour de chaque appel au modèle et de chaque appel d'outil. Ce stand recrée le createAgent de LangChain avec ses limites d'appels, qui arrêtent une boucle, et ajoute deux middlewares sur mesure : une garde autour de l'appel au modèle compare les remboursements et les réponses aux données de paiement, et une liste d'autorisation enveloppe chaque appel d'outil. Les protocoles apportent leurs propres contrôles : des Agent Cards signées, des approbations signées et un catalogue des composants qu'un client peut afficher. Une règle dans un prompt dépend du modèle qui la suit.
Les modèles de garde sont une couche de plus. Des classifieurs de sécurité comme le modèle content-safety Nemotron de NVIDIA et le Llama Nemotron safety guard filtrent les prompts et les réponses. Ce sont aussi des modèles, donc ils s'ajoutent aux contrôles en code, ils ne les remplacent pas.
L'OWASP Top 10 for Agentic Applications
La liste de l'OWASP pour 2026 nomme les principaux risques, de ASI01 Agent Goal Hijack et ASI02 Tool Misuse and Exploitation à ASI07 Insecure Inter-Agent Communication et ASI10 Rogue Agents. Dans ce lab, huit attaques visent un agent enveloppé de middlewares et les bibliothèques de protocole des chapitres précédents, et vous associez ce qui a échoué à la liste.
Étape 2 sur 4 : Essayez : Le stand de test
Le stand de test
Lancez huit cas contre l'agent, enveloppez-le de middlewares et activez les contrôles de protocole jusqu'à ce que chaque cas passe, puis associez les échecs que vous avez vus à leurs risques.
Mode :RéelRecrééSimuléRéel : les contrôles, LangGraph.js et son ToolNode, et les contrôles des bibliothèques MCP, A2A et A2UI tournent dans cette page. Recréé : le middleware du createAgent de LangChain 1.6, reconstruit sur LangGraph.js 1.5.1, avec les noms de middleware de LangChain ; la garde et la liste d'autorisation sont des middlewares sur mesure, comme LangChain documente les guardrails. Simulé : le modèle et les attaques sont scriptés. La liste de l'OWASP est résumée en mots simples ; lisez l'original pour le détail.
Étape 3 sur 4 : Vérification
Vérification
Ensuite : Question 2 sur 5
Étape 4 sur 4 : Ce que vous savez faire maintenant
Ce que vous savez faire maintenant
- Écrire des cas d'évaluation avec des contrôles en code sur les résultats et les trajectoires, et savoir quand utiliser un modèle comme juge.
- Ajouter une garde, une liste d'autorisation et des limites d'appels sous forme de middlewares autour des appels au modèle et aux outils d'un agent.
- Tester un agent contre l'injection de prompt directe et indirecte, l'altération et le détournement d'outil.
- Utiliser l'OWASP Top 10 for Agentic Applications comme liste de contrôle, avec les modèles de garde comme couche de plus.