Pular para o conteúdo
Voltar para Sistemas de agentes e padrões

Sistemas de agentes e padrões · Capítulo 6 de 8

Engenharia de contexto e recuperação

Escolher o que cada chamada de modelo lê: grep ou busca vetorial, descarregar resultados grandes, um primeiro olhar sobre subagentes, e uma memória que dura entre threads.

25 minutos0 de 4 objetivos concluídos

Objetivos

  • Rode o grep e a busca vetorial com as mesmas palavras e compare.A fazer
  • Deixe um resultado de ferramenta grande ser descarregado em vez de encher o contexto.A fazer
  • Passe uma busca a subagentes e compare os tamanhos de contexto.A fazer
  • Passe na verificação.A fazer

Passo 1 de 4: A leitura

O que cada chamada lê

Uma chamada de modelo lê seu contexto: o system prompt, as mensagens até ali e cada resultado de ferramenta. Engenharia de contexto é decidir o que entra. Pouco demais e o agente chuta; demais e ele custa mais, fica mais lento e se distrai com texto que não importa, ou que foi plantado.

grep ou vetores

O grep encontra texto exato, linha a linha: um número de pedido, um id de chamado, uma data. Ele não custa nada e perde tudo o que estiver escrito de outro jeito.

A busca vetorial encontra significado parecido. Cada trecho de cada arquivo vira um vetor (aqui, 384 números do modelo de embedding all-MiniLM-L6-v2), e os trechos são ordenados pela similaridade de cosseno com o vetor da consulta. Ela encontra “payment taken two times” para “charged twice”, mas para 48213 coloca chamados sobre os pedidos 48144 e 48231 à frente do certo. Filtros como uma pasta ou uma data deixam de fora trechos desatualizados ou sem relação.

Descarregar, skills e subagentes

Uma ferramenta pode devolver muito mais do que um contexto comporta. A remoção salva um resultado grande em um arquivo e dá ao modelo o caminho e uma prévia curta; o agente então faz grep no arquivo e lê só as linhas de que precisa.

As skills seguem a mesma ideia: o agente vê o nome de cada skill e uma descrição de uma linha, e só lê as instruções completas (um arquivo SKILL.md) quando uma tarefa precisa delas.

Um subagente recebe um contexto novo só com sua tarefa e devolve um relatório, então a leitura dele fica fora do contexto principal. Agentes avançados, capítulos 9 e 10, trata a fundo de subagentes, limites e compactação.

Memória entre threads

Uma thread é uma conversa: o checkpointer dela guarda as mensagens daquela thread, e uma thread nova começa vazia. A memória de longo prazo é um store que todas as threads compartilham. O InMemoryStore do LangGraph guarda itens sob um namespace, como customers / mara-lind; uma thread coloca uma nota ali, e uma thread posterior a busca. Em produção, o store é um banco de dados.

Neste lab

O agente de suporte da Halden trabalha no chamado T-48213. O harness dele recria o Deep Agents (um harness open source da LangChain) no LangGraph.js: ferramentas de sistema de arquivos, remoção acima de 20.000 tokens e subagentes de tarefa. O passo de memória usa o próprio InMemoryStore do LangGraph.js.

Passo 2 de 4: Experimente: O que o agente lê

O que o agente lê

Busque as mesmas palavras com grep e com vetores, deixe a exportação de pagamentos ser descarregada, passe a leitura para subagentes e depois salve uma nota que uma thread posterior lê de volta.

Modo:RealRecriadoSimuladoReal: o grep, o text splitter e o MemoryVectorStore do LangChain.js com os vetores all-MiniLM-L6-v2 incluídos, e o LangGraph.js com seu InMemoryStore e MemorySaver rodam nesta página. Recriado: o harness deepagents 1.16 reconstruído no LangGraph.js 1.5.1, com seus nomes de ferramentas, padrões e mensagens, porque o pacote real não se instala ao lado do LangSmith 0.11 deste site. Simulado: o modelo segue um roteiro, e os documentos são fictícios.

Passo 3 de 4: Verificação

Verificação

Pergunta 1 de 4O agente precisa encontrar todos os chamados que mencionam o pedido 48213. Qual busca serve melhor?

Próximo: Pergunta 2 de 4

Pergunta 2 de 4Uma ferramenta devolve uma exportação de 40.000 linhas. O que a remoção coloca no contexto?
Pergunta 3 de 4O que volta de um subagente para o agente que o iniciou?
Pergunta 4 de 4A thread 1 salvou uma nota no store. A thread 2 começa sem mensagens. Ela consegue ler a nota?

Passo 4 de 4: O que você já sabe fazer

O que você já sabe fazer

  • Escolher entre grep e busca vetorial para uma consulta, e dizer quando um filtro de pasta ou de data ajuda.
  • Descarregar resultados de ferramenta grandes e paginá-los.
  • Usar subagentes para manter o contexto de um agente principal pequeno e limpo.
  • Salvar uma nota em um store de longo prazo e lê-la de volta em uma thread posterior.