Aller au contenu
Retour à Systèmes d'agents et standards

Systèmes d'agents et standards · Chapitre 6 sur 8

Ingénierie du contexte et récupération

Choisir ce que lit chaque appel au modèle : grep ou recherche vectorielle, déchargement des gros résultats, un premier aperçu des sous-agents, et une mémoire qui dure d'un thread à l'autre.

25 minutes0 objectifs sur 4 atteints

Objectifs

  • Lancez grep et la recherche vectorielle sur les mêmes mots et comparez.À faire
  • Laissez un gros résultat d'outil être déchargé au lieu de remplir le contexte.À faire
  • Confiez une recherche à des sous-agents et comparez la taille des contextes.À faire
  • Réussissez la vérification.À faire

Étape 1 sur 4 : La lecture

Ce que lit chaque appel

Un appel au modèle lit son contexte : le prompt système, les messages jusqu'ici et chaque résultat d'outil. L'ingénierie du contexte, c'est décider de ce qui y entre. Trop peu, et l'agent devine ; trop, et cela coûte plus cher, va plus lentement et le distrait avec du texte sans importance, ou placé là exprès.

grep ou vecteurs

grep trouve du texte exact, ligne par ligne : un numéro de commande, un id de ticket, une date. Il ne coûte rien et rate tout ce qui est formulé autrement.

La recherche vectorielle trouve un sens proche. Chaque morceau de chaque fichier est transformé en vecteur (ici, 384 nombres issus du modèle d'embedding all-MiniLM-L6-v2), et les morceaux sont classés par similarité cosinus avec le vecteur de la requête. Elle trouve « payment taken two times » pour « charged twice », mais pour 48213 elle classe des tickets sur les commandes 48144 et 48231 devant le bon. Des filtres comme un dossier ou une date écartent les morceaux périmés ou sans rapport.

Déchargement, skills et sous-agents

Un outil peut renvoyer bien plus qu'un contexte ne peut contenir. L'éviction enregistre un gros résultat dans un fichier et donne au modèle le chemin et un court aperçu ; l'agent fait ensuite un grep sur le fichier et ne lit que les lignes dont il a besoin.

Les skills suivent la même idée : l'agent voit le nom de chaque skill et une description d'une ligne, et ne lit ses instructions complètes (un fichier SKILL.md) que lorsqu'une tâche en a besoin.

Un sous-agent reçoit un contexte neuf avec seulement sa tâche et renvoie un seul rapport, donc ses lectures restent hors du contexte principal. Agents avancés, chapitres 9 et 10, traite en détail les sous-agents, les seuils et la compaction.

La mémoire d'un thread à l'autre

Un thread est une conversation : son checkpointer garde les messages de ce thread, et un nouveau thread démarre vide. La mémoire à long terme est un store que tous les threads partagent. L'InMemoryStore de LangGraph range des éléments sous un namespace, comme customers / mara-lind ; un thread y dépose une note, et un thread suivant la cherche. En production, le store est une base de données.

Dans ce lab

L'agent de support de Halden traite le ticket T-48213. Son harnais recrée Deep Agents (un harnais open source de LangChain) sur LangGraph.js : outils de système de fichiers, éviction au-delà de 20 000 tokens et sous-agents de tâche. L'étape de mémoire utilise l'InMemoryStore de LangGraph.js lui-même.

Étape 2 sur 4 : Essayez : Ce que lit l'agent

Ce que lit l'agent

Cherchez les mêmes mots avec grep et avec des vecteurs, laissez l'export des paiements être déchargé, confiez la lecture à des sous-agents, puis enregistrez une note qu'un thread suivant relit.

Mode :RéelRecrééSimuléRéel : grep, le text splitter et le MemoryVectorStore de LangChain.js avec les vecteurs all-MiniLM-L6-v2 fournis, et LangGraph.js avec son InMemoryStore et son MemorySaver tournent dans cette page. Recréé : le harnais deepagents 1.16 reconstruit sur LangGraph.js 1.5.1, avec ses noms d'outils, ses valeurs par défaut et ses messages, parce que le vrai paquet ne s'installe pas à côté du LangSmith 0.11 de ce site. Simulé : le modèle suit un script, et les documents sont fictifs.

Étape 3 sur 4 : Vérification

Vérification

Question 1 sur 4L'agent doit trouver chaque ticket qui mentionne la commande 48213. Quelle recherche convient le mieux ?

Ensuite : Question 2 sur 4

Question 2 sur 4Un outil renvoie un export de 40 000 lignes. Que met l'éviction dans le contexte ?
Question 3 sur 4Que renvoie un sous-agent à l'agent qui l'a lancé ?
Question 4 sur 4Le thread 1 a enregistré une note dans le store. Le thread 2 démarre sans messages. Peut-il lire la note ?

Étape 4 sur 4 : Ce que vous savez faire maintenant

Ce que vous savez faire maintenant

  • Choisir entre grep et la recherche vectorielle pour une requête, et dire quand un filtre par dossier ou par date aide.
  • Décharger les gros résultats d'outils et les parcourir page par page.
  • Utiliser des sous-agents pour garder le contexte d'un agent principal petit et propre.
  • Enregistrer une note dans un store à long terme et la relire dans un thread suivant.