Agentes para todos · Capítulo 4 de 8
Memória e contexto
O que um agente consegue ver a cada passo é limitado, então o que ele guarda, descarta e anota decide o que ele sabe.
Objetivos
- Encha o contexto até as primeiras mensagens saírem.A fazer
- Salve o fato certo para o agente responder corretamente depois.A fazer
- Passe na verificação.A fazer
Passo 1 de 4: A leitura
O que o modelo lê
Cada vez que o modelo decide um passo, ele lê um bloco de texto chamado contexto: seu pedido, a conversa até agora e o que as ferramentas devolveram. É tudo o que ele tem. Se algo não está no contexto, o modelo não sabe disso naquele passo.
Uma mesa com espaço limitado
O contexto tem um limite de tamanho, contado em tokens. Um token é um pedaço de palavra: uma palavra curta tem cerca de um token, e em inglês um token tem cerca de quatro caracteres. Os limites variam entre modelos, de alguns milhares de tokens a um milhão ou mais, mas sempre existe um.
Pense no contexto como uma mesa. Só cabe uma certa quantidade de papel nela de cada vez.
Quando a mesa está cheia
Uma conversa longa enche a mesa. Então algo tem de sair: as mensagens mais antigas são descartadas, ou várias são trocadas por um resumo curto. O que for descartado, o agente deixa de saber, mesmo que você tenha dito antes.
Memória: um caderno ao lado da mesa
Memória é outra coisa. São notas que o agente escreve em algum lugar fora do contexto, como um arquivo, e relê quando precisa delas. Uma nota sobrevive quando a mesa é limpa, mas só se o agente a salvou, e só a parte que ele escolheu anotar.
Mais nem sempre é melhor
Um contexto lotado leva mais tempo para ler, custa mais e pode esconder o único fato que importa. Bons agentes deixam na mesa o que o próximo passo precisa e anotam o resto no caderno.
Passo 2 de 4: Experimente: Uma mesa com espaço limitado
Uma mesa com espaço limitado
Encha a mesa até as mensagens mais antigas saírem e veja o que o agente esquece. Depois comece de novo, salve um fato no caderno e pergunte outra vez.
Modo:SimuladoSimulado: a conversa, as respostas e o limite pequeno da mesa são roteirizados, e nenhuma IA roda. As contagens de tokens são estimadas a partir do texto mostrado (caracteres ÷ 4).
Passo 3 de 4: Verificação
Verificação
Próximo: Pergunta 2 de 3
Passo 4 de 4: O que você já sabe fazer
O que você já sabe fazer
- Explicar o que é um contexto e por que ele tem limite.
- Dizer o que acontece quando ele enche.
- Distinguir contexto de memória e dizer por que salvar os fatos certos importa.