Principes de l'IA · Chapitre 6 sur 8
Vérifier ce que vous recevez
Une réponse soignée peut cacher un chiffre faux, une source inventée ou un fait manquant, et un modèle peut vous donner raison simplement parce que vous l'avez dit : vous vérifiez donc ce qui revient et vous affinez jusqu'à ce que ça passe la vérification.
Objectifs
- Trouver les quatre erreurs glissées exprès dans un rapport soigné, et dire de quel type est chacune.À faire
- Choisir la relance qui corrige le plus, et voir ce que trouve une deuxième vérification.À faire
- Réussir le test.À faire
Étape 1 sur 4 : La lecture
Fini ne veut pas dire juste
Le chapitre 5 portait sur la façon de demander. Celui-ci porte sur ce qui revient. Une réponse peut avoir l'air finie, avec un titre, des intertitres et un chiffre dans un encadré, et pourtant être fausse. La juger, c'est vérifier trois choses.
Les faits : les noms, chiffres, dates et sources qu'elle contient. Comparez ceux qui comptent avec une chose en laquelle vous avez confiance, comme vos propres notes, et recalculez vous-même les chiffres clés. Le raisonnement : chaque conclusion découle-t-elle des faits donnés ? Les manques : ce qui est laissé de côté et changerait la conclusion.
Le soin endort la méfiance
Cet air fini joue contre vous : on a tendance à moins vérifier les réponses qui ont l'air finies. Comme l'a montré le chapitre 2, des mots fluides montrent ce qui était probable, pas ce qui est vrai. Un modèle peut même écrire une source qui n'existe pas, comme une étude au nom crédible : le chapitre 3 a appelé cela une confabulation. Si vous ne pouvez pas ouvrir une source et y trouver l'affirmation, traitez l'affirmation comme non confirmée.
Il peut simplement vous donner raison
Les modèles ont tendance à donner raison à la personne qui pose la question, même quand elle a tort. On appelle cela la complaisance. Une raison probable est l'entraînement : les modèles apprennent en partie des notes que les gens donnent à leurs réponses, et les gens ont tendance à bien noter qu'on leur donne raison. Donc si votre question contient une supposition, comme « c'est pour ça que les ventes ont augmenté, non ? », la réponse peut vous renvoyer votre supposition comme un fait. Demandez plutôt de confronter la supposition aux faits.
Décrire, vérifier, affiner
L'habitude qui aide est une boucle. Décrivez ce que vous voulez, comme au chapitre 5. Vérifiez ce qui revient. Puis affinez : nommez chaque problème et redemandez. Un retour vague comme « améliore-le » a tendance à changer la formulation, pas les faits. Vérifiez aussi la nouvelle version, car elle peut corriger une erreur et en ajouter une autre. N'utilisez le résultat qu'une fois qu'il passe.
Dans le visuel
Vous tenez un petit café et vous demandez à un assistant IA un court rapport sur les chiffres de mai, avec vos notes et votre propre supposition. Le rapport a été écrit pour ce chapitre, avec quatre erreurs glissées exprès : un chiffre faux, une source inventée, un contexte manquant et un accord flatteur. Trouvez-les et dites de quel type est chacune. Puis choisissez une relance et voyez ce que trouve une deuxième vérification.
Étape 2 sur 4 : Essayez : Trouver les erreurs glissées
Trouver les erreurs glissées
Trouvez et nommez les quatre erreurs glissées exprès dans un rapport soigné, puis choisissez une relance et voyez ce que trouve une deuxième vérification.
Mode :RecrééRecréé : le café, ses notes, le rapport, les réponses aux quatre relances et ce que trouve chaque vérification ont été écrits pour ce chapitre, à la manière dont répond souvent un assistant de chat, avec quatre erreurs glissées exprès. L'étude citée par le rapport n'existe pas. Aucun modèle ne tourne ici, et rien de ce que vous faites ne quitte la page.
Étape 3 sur 4 : Vérification
Vérification
Mettez dans l'ordre les étapes du travail avec une IA sur une tâche.
Faites glisser les éléments, ou utilisez les flèches, pour les mettre dans l'ordre.
- Position 1 : Vérifier les faits, le raisonnement et les manques de la réponse.
- Position 2 : Décrire ce que vous voulez, avec les faits que vous seul connaissez.
- Position 3 : Nommer chaque problème et demander une nouvelle version.
- Position 4 : Utiliser le résultat une fois qu'il passe votre vérification.
- Position 5 : Vérifier la nouvelle version de la même façon.
Étape 4 sur 4 : Ce que vous savez faire maintenant
Ce que vous savez faire maintenant
- Vérifier les faits, le raisonnement et les manques d'une réponse d'IA par rapport à une source fiable.
- Repérer une source inventée, un chiffre faux et un contexte manquant, même dans un rapport soigné.
- Remarquer quand une réponse ne fait que répéter votre supposition, et lui demander de la confronter aux faits.
- Écrire une relance qui nomme chaque problème, et vérifier la nouvelle version avant de l'utiliser.