Pular para o conteúdo
Voltar para Agentes para todos

Agentes para todos · Capítulo 4 de 8

Memória e contexto

O que um agente consegue ver a cada passo é limitado, então o que ele guarda, descarta e anota decide o que ele sabe.

12 minutos0 de 3 objetivos concluídos

Objetivos

  • Encha o contexto até as primeiras mensagens saírem.A fazer
  • Salve o fato certo para o agente responder corretamente depois.A fazer
  • Passe na verificação.A fazer

Passo 1 de 4: A leitura

O que o modelo lê

Cada vez que o modelo decide um passo, ele lê um bloco de texto chamado contexto: seu pedido, a conversa até agora e o que as ferramentas devolveram. É tudo o que ele tem. Se algo não está no contexto, o modelo não sabe disso naquele passo.

Uma mesa com espaço limitado

O contexto tem um limite de tamanho, contado em tokens. Um token é um pedaço de palavra: uma palavra curta tem cerca de um token, e em inglês um token tem cerca de quatro caracteres. Os limites variam entre modelos, de alguns milhares de tokens a um milhão ou mais, mas sempre existe um.

Pense no contexto como uma mesa. Só cabe uma certa quantidade de papel nela de cada vez.

Quando a mesa está cheia

Uma conversa longa enche a mesa. Então algo tem de sair: as mensagens mais antigas são descartadas, ou várias são trocadas por um resumo curto. O que for descartado, o agente deixa de saber, mesmo que você tenha dito antes.

Memória: um caderno ao lado da mesa

Memória é outra coisa. São notas que o agente escreve em algum lugar fora do contexto, como um arquivo, e relê quando precisa delas. Uma nota sobrevive quando a mesa é limpa, mas só se o agente a salvou, e só a parte que ele escolheu anotar.

Mais nem sempre é melhor

Um contexto lotado leva mais tempo para ler, custa mais e pode esconder o único fato que importa. Bons agentes deixam na mesa o que o próximo passo precisa e anotam o resto no caderno.

Passo 2 de 4: Experimente: Uma mesa com espaço limitado

Uma mesa com espaço limitado

Encha a mesa até as mensagens mais antigas saírem e veja o que o agente esquece. Depois comece de novo, salve um fato no caderno e pergunte outra vez.

Modo:SimuladoSimulado: a conversa, as respostas e o limite pequeno da mesa são roteirizados, e nenhuma IA roda. As contagens de tokens são estimadas a partir do texto mostrado (caracteres ÷ 4).

Passo 3 de 4: Verificação

Verificação

Pergunta 1 de 3O que está no contexto de um agente em um passo?

Próximo: Pergunta 2 de 3

Pergunta 2 de 3O contexto está cheio e chega uma mensagem nova. O que costuma acontecer?
Pergunta 3 de 3Em que a memória é diferente do contexto?

Passo 4 de 4: O que você já sabe fazer

O que você já sabe fazer

  • Explicar o que é um contexto e por que ele tem limite.
  • Dizer o que acontece quando ele enche.
  • Distinguir contexto de memória e dizer por que salvar os fatos certos importa.