Saltar al contenido
Volver a Entender los modelos

Entender los modelos · Capítulo 3 de 8

Elegir el siguiente token

Un modelo da una puntuación a cada token siguiente posible, convierte las puntuaciones en probabilidades y sortea uno; la temperatura, top-k y top-p cambian el sorteo, y los modelos base, instruct y de razonamiento se entrenan para escribir de formas distintas.

14 minutos0 de 4 objetivos hechos

Objetivos

  • Mira los 20 tokens siguientes más probables para un prompt.Pendiente
  • Mueve la temperatura y top-p, y vuelve a sortear.Pendiente
  • Hazles la misma pregunta a un modelo base y a un modelo instruct.Pendiente
  • Supera la comprobación.Pendiente

Paso 1 de 4: La lectura

Un token a la vez

En el capítulo anterior, el texto se convirtió en tokens. Un modelo escribe de la misma manera: lee todo el texto hasta ahora, elige un token siguiente, lo agrega al texto y vuelve a empezar. Una respuesta de 100 tokens lleva 100 de estos pasos.

Las puntuaciones se vuelven probabilidades

En cada paso, el modelo da a cada token que conoce una puntuación, llamada logit. SmolLM2-360M, el pequeño modelo abierto de este capítulo, conoce 49.152 tokens, así que da 49.152 puntuaciones. Luego las puntuaciones se convierten en posibilidades, también llamadas probabilidades, que suman 100 %. Una puntuación más alta significa una probabilidad mayor: un punto más significa unas 2,7 veces la probabilidad.

Un sorteo, con ajustes

Luego se sortea un token al azar, según esas probabilidades, como sacar un boleto de una bolsa donde los tokens probables tienen más boletos. Por eso el mismo prompt puede recibir respuestas distintas. Tres ajustes cambian el sorteo. La temperatura divide cada puntuación antes de que se convierta en probabilidad: por debajo de 1, los tokens probables se vuelven aún más probables; por encima de 1, las probabilidades se igualan. Top-k conserva solo los k tokens más probables. Top-p conserva los tokens más probables hasta que sus probabilidades suman p, así que un top-p de 0,9 descarta la larga cola de los poco probables. Lo que se conserva se reescala hasta sumar 100 %.

Modelos base e instruct

Un modelo base solo aprendió a continuar texto, así que una pregunta puede recibir más preguntas. Un modelo instruct se entrenó además con conversaciones, escritas en un formato de chat que marca quién habla. Responde y luego escribe un token de fin, un token especial que significa que terminó.

Modelos de razonamiento

Un modelo de razonamiento escribe primero su razonamiento, del mismo modo, token a token, y luego la respuesta. Al 2026-11-03, modelos cerrados como Claude Opus 5.5 y GPT-6.1 Sol ofrecen el razonamiento como un ajuste, y abiertos como DeepSeek-R1 y Olmo 3 7B Think se publican como modelos de razonamiento aparte.

En la visualización

Los números de la visualización se grabaron con SmolLM2-360M y su versión instruct, ambos de Hugging Face. Si tu navegador tiene WebGPU, una forma de que las páginas web usen la tarjeta gráfica, también puedes descargar el modelo instruct y ejecutarlo en vivo.

Paso 2 de 4: Pruébalo: Sorteo del siguiente token

Sorteo del siguiente token

Elige un prompt y lee las probabilidades; luego dales forma y sortea, un token a la vez. Por último, hazles la misma pregunta al modelo base y al modelo instruct.

Modo:RealReal, grabado: cada puntuación, probabilidad y respuesta viene de ejecutar SmolLM2-360M y SmolLM2-360M-Instruct en una computadora el 2026-11-03, con Transformers.js de Hugging Face. Los sorteos, la temperatura, top-k y top-p se calculan en esta página a partir de esos números, y el texto que recorres es la ejecución grabada del propio modelo base. Los modelos de razonamiento vienen de la instantánea del 2026-11-03. La ejecución en vivo también es real, después de una descarga de 204 MB que tú eliges hacer.

Paso 3 de 4: Comprobación

Comprobación

Los ajustes
Prompt: The capital of France is
Modelo: SmolLM2-360M (base)

Token siguiente   Probabilidad
Paris             20,3 %
the               19,6 %
located           10,5 %
situated           4,7 %
called             3,7 %
… 15 más, y luego todos los demás

Temperatura: 1
Top-k:       desactivado
Top-p:       0,5
Sorteas el siguiente token 100 veces con estos ajustes. ¿Qué obtienes?

Paso 4 de 4: Lo que ya puedes hacer

Lo que ya puedes hacer

  • Explicar cómo un modelo convierte puntuaciones en probabilidades y sortea el siguiente token.
  • Decir qué hacen la temperatura, top-k y top-p con las probabilidades.
  • Distinguir la salida de un modelo base de la de un modelo instruct, y decir qué agrega un modelo de razonamiento.