Entender los modelos · Capítulo 3 de 8
Elegir el siguiente token
Un modelo da una puntuación a cada token siguiente posible, convierte las puntuaciones en probabilidades y sortea uno; la temperatura, top-k y top-p cambian el sorteo, y los modelos base, instruct y de razonamiento se entrenan para escribir de formas distintas.
Objetivos
- Mira los 20 tokens siguientes más probables para un prompt.Pendiente
- Mueve la temperatura y top-p, y vuelve a sortear.Pendiente
- Hazles la misma pregunta a un modelo base y a un modelo instruct.Pendiente
- Supera la comprobación.Pendiente
Paso 1 de 4: La lectura
Un token a la vez
En el capítulo anterior, el texto se convirtió en tokens. Un modelo escribe de la misma manera: lee todo el texto hasta ahora, elige un token siguiente, lo agrega al texto y vuelve a empezar. Una respuesta de 100 tokens lleva 100 de estos pasos.
Las puntuaciones se vuelven probabilidades
En cada paso, el modelo da a cada token que conoce una puntuación, llamada logit. SmolLM2-360M, el pequeño modelo abierto de este capítulo, conoce 49.152 tokens, así que da 49.152 puntuaciones. Luego las puntuaciones se convierten en posibilidades, también llamadas probabilidades, que suman 100 %. Una puntuación más alta significa una probabilidad mayor: un punto más significa unas 2,7 veces la probabilidad.
Un sorteo, con ajustes
Luego se sortea un token al azar, según esas probabilidades, como sacar un boleto de una bolsa donde los tokens probables tienen más boletos. Por eso el mismo prompt puede recibir respuestas distintas. Tres ajustes cambian el sorteo. La temperatura divide cada puntuación antes de que se convierta en probabilidad: por debajo de 1, los tokens probables se vuelven aún más probables; por encima de 1, las probabilidades se igualan. Top-k conserva solo los k tokens más probables. Top-p conserva los tokens más probables hasta que sus probabilidades suman p, así que un top-p de 0,9 descarta la larga cola de los poco probables. Lo que se conserva se reescala hasta sumar 100 %.
Modelos base e instruct
Un modelo base solo aprendió a continuar texto, así que una pregunta puede recibir más preguntas. Un modelo instruct se entrenó además con conversaciones, escritas en un formato de chat que marca quién habla. Responde y luego escribe un token de fin, un token especial que significa que terminó.
Modelos de razonamiento
Un modelo de razonamiento escribe primero su razonamiento, del mismo modo, token a token, y luego la respuesta. Al 2026-11-03, modelos cerrados como Claude Opus 5.5 y GPT-6.1 Sol ofrecen el razonamiento como un ajuste, y abiertos como DeepSeek-R1 y Olmo 3 7B Think se publican como modelos de razonamiento aparte.
En la visualización
Los números de la visualización se grabaron con SmolLM2-360M y su versión instruct, ambos de Hugging Face. Si tu navegador tiene WebGPU, una forma de que las páginas web usen la tarjeta gráfica, también puedes descargar el modelo instruct y ejecutarlo en vivo.
Paso 2 de 4: Pruébalo: Sorteo del siguiente token
Sorteo del siguiente token
Elige un prompt y lee las probabilidades; luego dales forma y sortea, un token a la vez. Por último, hazles la misma pregunta al modelo base y al modelo instruct.
Modo:RealReal, grabado: cada puntuación, probabilidad y respuesta viene de ejecutar SmolLM2-360M y SmolLM2-360M-Instruct en una computadora el 2026-11-03, con Transformers.js de Hugging Face. Los sorteos, la temperatura, top-k y top-p se calculan en esta página a partir de esos números, y el texto que recorres es la ejecución grabada del propio modelo base. Los modelos de razonamiento vienen de la instantánea del 2026-11-03. La ejecución en vivo también es real, después de una descarga de 204 MB que tú eliges hacer.
Paso 3 de 4: Comprobación
Comprobación
Prompt: The capital of France is
Modelo: SmolLM2-360M (base)
Token siguiente Probabilidad
Paris 20,3 %
the 19,6 %
located 10,5 %
situated 4,7 %
called 3,7 %
… 15 más, y luego todos los demás
Temperatura: 1
Top-k: desactivado
Top-p: 0,5Paso 4 de 4: Lo que ya puedes hacer
Lo que ya puedes hacer
- Explicar cómo un modelo convierte puntuaciones en probabilidades y sortea el siguiente token.
- Decir qué hacen la temperatura, top-k y top-p con las probabilidades.
- Distinguir la salida de un modelo base de la de un modelo instruct, y decir qué agrega un modelo de razonamiento.