Principios de la IA · Capítulo 6 de 8
Revisar lo que recibes
Una respuesta pulida puede esconder una cifra equivocada, una fuente inventada o un dato que falta, y un modelo puede darte la razón solo porque tú lo dijiste, así que revisas lo que recibes y lo refinas hasta que pase la revisión.
Objetivos
- Encuentra los cuatro errores puestos a propósito en un informe pulido y di de qué tipo es cada uno.Pendiente
- Elige la pregunta de seguimiento que más corrige y mira qué encuentra una segunda revisión.Pendiente
- Aprueba la prueba.Pendiente
Paso 1 de 4: La lectura
Terminado no es lo mismo que correcto
El capítulo 5 trataba de cómo pedir. Este trata de lo que recibes. Una respuesta puede verse terminada, con un título, encabezados y un número en un recuadro, y aun así estar equivocada. Juzgarla significa revisar tres cosas.
Los hechos: los nombres, números, fechas y fuentes que contiene. Compara los que importan con algo en lo que confíes, como tus propias notas, y calcula tú mismo los números clave. El razonamiento: si cada conclusión se desprende de los hechos dados. Los huecos: lo que falta y cambiaría la conclusión.
El acabado baja la guardia
Ese aspecto terminado juega en tu contra: la gente tiende a revisar menos las respuestas que parecen terminadas. Como mostró el capítulo 2, las palabras fluidas muestran lo que era probable, no lo que es verdad. Un modelo puede incluso escribir una fuente que no existe, como un estudio con un nombre creíble: el capítulo 3 llamó a esto confabulación. Si no puedes abrir una fuente y encontrar la afirmación en ella, trata la afirmación como no confirmada.
Puede que solo te dé la razón
Los modelos tienden a darle la razón a quien pregunta, incluso cuando esa persona se equivoca. Esto se llama adulación. Una razón probable es el entrenamiento: los modelos aprenden en parte de las calificaciones que la gente da a sus respuestas, y la gente tiende a calificar bien que le den la razón. Así que si tu pregunta contiene una suposición, como “esto es por lo que subieron las ventas, ¿verdad?”, la respuesta puede devolverte tu suposición como si fuera un hecho. Pídele, en cambio, que ponga a prueba la suposición frente a los hechos.
Describir, revisar, refinar
El hábito que ayuda es un ciclo. Describe lo que quieres, como en el capítulo 5. Revisa lo que recibes. Luego refina: nombra cada problema y vuelve a pedir. Una indicación vaga como “mejóralo” tiende a cambiar la redacción, no los hechos. Revisa también la nueva versión, porque puede corregir un error y agregar otro. Usa el resultado solo cuando pase la revisión.
En el visual
Tienes una pequeña cafetería y le pides a un asistente de IA un informe corto sobre las cifras de mayo, con tus notas y tu propia suposición. El informe se escribió para este capítulo, con cuatro errores puestos a propósito: una cifra equivocada, una fuente inventada, contexto que falta y un acuerdo halagador. Encuéntralos y di de qué tipo es cada uno. Luego elige una pregunta de seguimiento y mira qué encuentra una segunda revisión.
Paso 2 de 4: Pruébalo: Encuentra los errores puestos a propósito
Encuentra los errores puestos a propósito
Encuentra y nombra los cuatro errores puestos a propósito en un informe pulido; luego elige una pregunta de seguimiento y mira qué encuentra una segunda revisión.
Modo:RecreadoRecreado: la cafetería, sus notas, el informe, las respuestas a las cuatro preguntas de seguimiento y lo que encuentra cada revisión se escribieron para este capítulo, como suele responder un asistente de chat, con cuatro errores puestos a propósito. El estudio que cita el informe no existe. Aquí no se ejecuta ningún modelo, y nada de lo que haces sale de la página.
Paso 3 de 4: Comprobación
Comprobación
Ordena los pasos para trabajar con una IA en una tarea.
Arrastra los elementos, o usa los botones de flecha, para ponerlos en orden.
- Posición 1: Revisa los hechos, el razonamiento y los huecos de la respuesta.
- Posición 2: Describe lo que quieres, con los datos que solo tú conoces.
- Posición 3: Nombra cada problema y pide una nueva versión.
- Posición 4: Usa el resultado cuando pase tu revisión.
- Posición 5: Revisa la nueva versión de la misma manera.
Paso 4 de 4: Lo que ya puedes hacer
Lo que ya puedes hacer
- Revisar los hechos, el razonamiento y los huecos de una respuesta de IA frente a una fuente de confianza.
- Detectar una fuente inventada, una cifra equivocada y contexto que falta, incluso en un informe pulido.
- Notar cuando una respuesta solo repite tu suposición, y pedirle que la ponga a prueba frente a los hechos.
- Escribir una pregunta de seguimiento que nombre cada problema, y revisar la nueva versión antes de usarla.