Zum Inhalt springen
Zurück zu KI-Grundlagen

KI-Grundlagen · Kapitel 6 von 8

Prüfen, was du bekommst

Eine polierte Antwort kann eine falsche Zahl, eine erfundene Quelle oder eine fehlende Tatsache verbergen, und ein Modell kann dir zustimmen, nur weil du es gesagt hast, also prüfst du, was zurückkommt, und besserst nach, bis es die Prüfung besteht.

14 Minuten0 von 3 Zielen erreicht

Ziele

  • Finde die vier absichtlich eingebauten Fehler in einem polierten Bericht und sag, welcher Art jeder ist.Offen
  • Wähle die Rückfrage, die am meisten behebt, und sieh, was eine zweite Prüfung findet.Offen
  • Bestehe den Test.Offen

Schritt 1 von 4: Der Text

Fertig heißt nicht richtig

In Kapitel 5 ging es darum, wie man fragt. In diesem geht es darum, was zurückkommt. Eine Antwort kann fertig aussehen, mit Titel, Zwischenüberschriften und einer Zahl in einem Kasten, und trotzdem falsch sein. Sie zu beurteilen heißt, drei Dinge zu prüfen.

Fakten: die Namen, Zahlen, Daten und Quellen darin. Gleiche die wichtigen mit etwas ab, dem du vertraust, etwa deinen eigenen Notizen, und rechne wichtige Zahlen selbst nach. Begründung: ob jede Schlussfolgerung aus den gegebenen Fakten folgt. Lücken: was fehlt und die Schlussfolgerung ändern würde.

Feinschliff macht unvorsichtig

Dieser fertige Eindruck arbeitet gegen dich: Menschen prüfen fertig wirkende Antworten tendenziell weniger. Wie Kapitel 2 gezeigt hat, zeigen flüssige Worte, was wahrscheinlich war, nicht was wahr ist. Ein Modell kann sogar eine Quelle schreiben, die es nicht gibt, etwa eine Studie mit glaubwürdigem Namen: Kapitel 3 hat das Konfabulation genannt. Wenn du eine Quelle nicht öffnen und die Aussage darin finden kannst, behandle die Aussage als unbestätigt.

Es stimmt dir vielleicht nur zu

Modelle neigen dazu, der fragenden Person zuzustimmen, auch wenn sie falschliegt. Das nennt man Sykophantie, also Gefallsucht. Ein wahrscheinlicher Grund ist das Training: Modelle lernen zum Teil aus Bewertungen, die Menschen ihren Antworten geben, und Menschen bewerten Zustimmung tendenziell gut. Wenn deine Frage also eine Vermutung enthält, etwa „deshalb ist der Umsatz gestiegen, oder?“, kann die Antwort dir deine Vermutung als Tatsache zurückgeben. Bitte es stattdessen, die Vermutung an den Fakten zu prüfen.

Beschreiben, prüfen, nachbessern

Die Gewohnheit, die hilft, ist eine Schleife. Beschreibe, was du willst, wie in Kapitel 5. Prüfe, was zurückkommt. Dann bessere nach: Benenne jedes Problem und frag noch einmal. Vages Feedback wie „mach es besser“ ändert meist die Formulierung, nicht die Fakten. Prüfe auch die neue Fassung, denn eine neue Version kann einen Fehler beheben und einen anderen einbauen. Nutze das Ergebnis erst, wenn es besteht.

In der Visualisierung

Du führst ein kleines Café und bittest einen KI-Assistenten um einen kurzen Bericht zu den Zahlen vom Mai, mit deinen Notizen und deiner eigenen Vermutung. Der Bericht wurde für dieses Kapitel geschrieben, mit vier absichtlich eingebauten Fehlern: einer falschen Zahl, einer erfundenen Quelle, fehlendem Kontext und schmeichelnder Zustimmung. Finde sie und sag, welcher Art jeder ist. Wähle dann eine Rückfrage und sieh, was eine zweite Prüfung findet.

Schritt 2 von 4: Probier es aus: Finde die eingebauten Fehler

Finde die eingebauten Fehler

Finde und benenne die vier absichtlich eingebauten Fehler in einem polierten Bericht, wähle dann eine Rückfrage und sieh, was eine zweite Prüfung findet.

Modus:NachgebautNachgebaut: Das Café, seine Notizen, der Bericht, die Antworten auf die vier Rückfragen und was jede Prüfung findet, wurden für dieses Kapitel geschrieben, so wie ein Chat-Assistent oft antwortet, mit vier absichtlich eingebauten Fehlern. Die Studie, die der Bericht zitiert, gibt es nicht. Hier läuft kein Modell, und nichts, was du tust, verlässt die Seite.

Schritt 3 von 4: Check

Check

Bring die Schritte der Arbeit mit KI an einer Aufgabe in die richtige Reihenfolge.

Zieh die Einträge oder nutze die Pfeiltasten, um sie zu ordnen.

  1. Position 1: Prüfe die Fakten, die Begründung und die Lücken der Antwort.
  2. Position 2: Beschreibe, was du willst, mit den Fakten, die nur du kennst.
  3. Position 3: Benenne jedes Problem und fordere eine neue Fassung an.
  4. Position 4: Nutze das Ergebnis, sobald es deine Prüfung besteht.
  5. Position 5: Prüfe die neue Fassung genauso.

Schritt 4 von 4: Was du jetzt kannst

Was du jetzt kannst

  • Die Fakten, die Begründung und die Lücken einer KI-Antwort mit einer Quelle abgleichen, der du vertraust.
  • Eine erfundene Quelle, eine falsche Zahl und fehlenden Kontext erkennen, auch in einem polierten Bericht.
  • Merken, wenn eine Antwort nur deine Vermutung wiederholt, und darum bitten, die Vermutung an den Fakten zu prüfen.
  • Eine Rückfrage schreiben, die jedes Problem benennt, und die neue Fassung prüfen, bevor du sie nutzt.