Principios de la IA · Capítulo 3 de 8
Fuerte aquí, débil allá
La IA hace bien algunas tareas difíciles y falla en otras que parecen fáciles, puede afirmar cosas falsas con seguridad y es más útil cuando dice que no sabe.
Objetivos
- Responde seis preguntas o di “No lo sé”, y luego puntúalas de dos maneras.Pendiente
- Ubica seis tareas cotidianas en un mapa con fecha de dónde a la IA le va bien y dónde falla.Pendiente
- Supera la comprobación.Pendiente
Paso 1 de 4: La lectura
Desigual, y no según la dificultad
En el capítulo 2 viste que un modelo escribe eligiendo los fragmentos de texto siguientes más probables, aprendidos de los ejemplos con los que se entrenó. Lo que hace bien depende de esos ejemplos, no de lo que a las personas les resulta difícil. Puede traducir un cartel a tres idiomas en segundos y luego contar mal las letras de una palabra, porque lee fragmentos de palabras y no letras sueltas.
Los investigadores llaman a esto una frontera irregular: el límite entre lo que la IA hace bien y lo que hace mal va en zigzag. La expresión viene de un estudio de 2023 en el que consultores usaron IA en tareas realistas (Dell'Acqua y colegas). En las tareas dentro de la frontera, su trabajo mejoró. En una tarea justo fuera de ella, quienes usaban IA acertaron menos a menudo que quienes trabajaban sin ella. La frontera también se mueve a medida que cambian los modelos, así que cualquier mapa de ella necesita una fecha.
Seguro y equivocado
Un modelo siempre produce una respuesta, y sus palabras suenan igual de seguras cuando se equivoca. Escribir algo falso en un tono seguro, como una cita de un libro que no existe, se llama confabulación; mucha gente lo llama alucinación. Estar calibrado significa que tu confianza coincide con la frecuencia con la que aciertas: cuando dices que tienes certeza, casi siempre aciertas.
Por qué adivinar conviene en la mayoría de las pruebas
Abstenerse significa decir “No lo sé” en lugar de responder. Que convenga o no depende de la regla de puntuación, la forma en que una prueba convierte las respuestas en puntos. Si solo cuentan las respuestas correctas, adivinar solo puede ayudar, así que alguien que siempre responde le gana a alguien que admite sus dudas. Un artículo de 2025 de investigadores de OpenAI sostiene que la mayoría de las pruebas que se usan para clasificar modelos de IA puntúan así, de modo que un modelo que adivina queda por encima de uno que admite que no está seguro. La solución que propone: que una respuesta incorrecta cueste más que “No lo sé”.
En la visualización
Respondes seis preguntas; nadie podría saber algunas de las respuestas a partir de esta página. Tus respuestas se puntúan de las dos maneras, junto a dos jugadores simulados. Luego ubicas seis tareas cotidianas en un mapa con fecha: suele ir bien, revisa con cuidado o no confíes en ello.
Paso 2 de 4: Pruébalo: Responder o abstenerse, y luego ubicar las tareas
Responder o abstenerse, y luego ubicar las tareas
Responde seis preguntas, mira cómo se puntúan de dos maneras y luego ubica seis tareas cotidianas en un mapa con fecha.
Modo:RealSimuladoReal: tus puntuaciones se calculan en esta página a partir de tus respuestas. Simulado: la cafetería, los otros dos jugadores y el mapa de tareas están escritos de antemano para este capítulo (el mapa es un juicio al 2026-11-03, no una medición). Aquí no se ejecuta ningún modelo de IA.
Paso 3 de 4: Comprobación
Comprobación
Siguiente: Pregunta 2 de 3
Paso 4 de 4: Lo que ya puedes hacer
Lo que ya puedes hacer
- Explicar por qué la IA puede hacer bien una tarea difícil y fallar en una que parece fácil.
- Decir por qué una respuesta segura puede estar equivocada, y por qué puntuar solo las respuestas correctas premia adivinar.
- Para una tarea cotidiana, decidir si el resultado de la IA suele ir bien, necesita revisión o no se debe confiar en él.