Saltar al contenido
Volver a Agentes para todos

Agentes para todos · Capítulo 4 de 8

Memoria y contexto

Lo que un agente puede ver en cada paso es limitado, así que lo que conserva, descarta y anota decide lo que sabe.

12 minutos0 de 3 objetivos hechos

Objetivos

  • Llena el contexto hasta que salgan los mensajes más antiguos.Pendiente
  • Guarda el dato correcto para que el agente responda bien más tarde.Pendiente
  • Supera la comprobación.Pendiente

Paso 1 de 4: La lectura

Lo que lee el modelo

Cada vez que el modelo decide un paso, lee un bloque de texto llamado contexto: tu petición, la conversación hasta ahora y lo que devolvieron las herramientas. Es todo lo que tiene. Si algo no está en el contexto, el modelo no lo sabe en ese paso.

Un escritorio con poco espacio

El contexto tiene un límite de tamaño, contado en tokens. Un token es un trozo de palabra: una palabra corta es más o menos un token, y en inglés un token equivale a unos cuatro caracteres. Los límites varían entre modelos, de unos pocos miles de tokens a un millón o más, pero siempre hay uno.

Piensa en el contexto como un escritorio. Solo cabe cierta cantidad de papel a la vez.

Cuando el escritorio se llena

Una conversación larga llena el escritorio. Entonces algo tiene que salir: se descartan los mensajes más antiguos, o varios se reemplazan por un resumen corto. Lo que se descarta, el agente ya no lo sabe, aunque se lo hayas dicho antes.

Memoria: un cuaderno junto al escritorio

La memoria es otra cosa. Son notas que el agente escribe en algún lugar fuera del contexto, como un archivo, y que vuelve a leer cuando hacen falta. Una nota sobrevive cuando se despeja el escritorio, pero solo si el agente la guardó, y solo la parte que eligió anotar.

Más no siempre es mejor

Un contexto abarrotado tarda más en leerse, cuesta más y puede enterrar el único dato que importa. Los buenos agentes dejan en el escritorio lo que necesita el siguiente paso y escriben el resto en el cuaderno.

Paso 2 de 4: Pruébalo: Un escritorio con poco espacio

Un escritorio con poco espacio

Llena el escritorio hasta que salgan los mensajes más antiguos y mira qué olvida el agente. Luego empieza de nuevo, guarda un dato en el cuaderno y vuelve a preguntar.

Modo:SimuladoSimulado: la conversación, las respuestas y el límite pequeño del escritorio están escritos de antemano, y no se ejecuta ninguna IA. Los conteos de tokens se estiman a partir del texto que se muestra (caracteres ÷ 4).

Paso 3 de 4: Comprobación

Comprobación

Pregunta 1 de 3¿Qué hay en el contexto de un agente en un paso?

Siguiente: Pregunta 2 de 3

Pregunta 2 de 3El contexto está lleno y llega un mensaje nuevo. ¿Qué suele pasar?
Pregunta 3 de 3¿En qué se diferencia la memoria del contexto?

Paso 4 de 4: Lo que ya puedes hacer

Lo que ya puedes hacer

  • Explicar qué es un contexto y por qué tiene un límite.
  • Decir qué pasa cuando se llena.
  • Distinguir el contexto de la memoria, y decir por qué importa guardar los datos correctos.