Zum Inhalt springen
Zurück zu KI-Grundlagen

KI-Grundlagen · Kapitel 3 von 8

Hier stark, dort schwach

KI erledigt manche schweren Aufgaben gut und scheitert an leicht wirkenden, kann Falsches mit Überzeugung behaupten und ist nützlicher, wenn sie sagt, dass sie etwas nicht weiß.

15 Minuten0 von 3 Zielen erreicht

Ziele

  • Beantworte sechs Fragen oder sag „Ich weiß es nicht“ und bewerte sie dann auf zwei Arten.Offen
  • Sortiere sechs Alltagsaufgaben auf eine datierte Karte, die zeigt, wo KI gut ist und wo sie scheitert.Offen
  • Besteh den Check.Offen

Schritt 1 von 4: Der Text

Ungleichmäßig, und nicht nach Schwierigkeit

In Kapitel 2 hast du gesehen, wie ein Modell schreibt, indem es wahrscheinliche nächste Textstücke wählt, gelernt aus den Beispielen, mit denen es trainiert wurde. Was es gut kann, hängt von diesen Beispielen ab, nicht davon, was Menschen schwer finden. Es kann ein Schild in Sekunden in drei Sprachen übersetzen und dann die Buchstaben in einem Wort falsch zählen, weil es Wortstücke liest statt einzelner Buchstaben.

Forschende nennen das eine gezackte Grenze: Die Linie zwischen dem, was KI gut kann, und dem, was sie schlecht kann, verläuft im Zickzack. Der Begriff stammt aus einer Studie von 2023, in der Consultants KI bei realistischen Aufgaben einsetzten (Dell'Acqua und Kollegen). Bei Aufgaben innerhalb der Grenze wurde ihre Arbeit besser. Bei einer Aufgabe knapp außerhalb lagen diejenigen mit KI seltener richtig als diejenigen, die ohne KI arbeiteten. Die Grenze verschiebt sich auch, wenn sich Modelle ändern, deshalb braucht jede Karte von ihr ein Datum.

Selbstsicher und falsch

Ein Modell gibt immer eine Antwort, und seine Worte klingen genauso sicher, wenn es falschliegt. Etwas Falsches in selbstsicherem Ton zu schreiben, etwa ein Zitat aus einem Buch, das es nicht gibt, nennt man Konfabulation; viele nennen es Halluzination. Kalibriert sein heißt, dass deine Sicherheit dazu passt, wie oft du richtigliegst: Wenn du sagst, dass du sicher bist, bist du es fast immer.

Warum sich Raten bei den meisten Tests lohnt

Sich enthalten heißt, „Ich weiß es nicht“ zu sagen, statt zu antworten. Ob sich das lohnt, hängt von der Bewertungsregel ab, also davon, wie ein Test Antworten in Punkte umrechnet. Wenn nur richtige Antworten zählen, kann Raten nur helfen, also schlägt jemand, der immer antwortet, jemanden, der Zweifel zugibt. Ein Paper von Forschenden bei OpenAI aus dem Jahr 2025 argumentiert, dass die meisten Tests, mit denen KI-Modelle in Ranglisten eingeordnet werden, auf diese Weise bewerten, weshalb ein ratendes Modell vor einem landet, das Unsicherheit zugibt. Die Lösung, die es vorschlägt: Eine falsche Antwort soll mehr kosten als „Ich weiß es nicht“.

In der Visualisierung

Du beantwortest sechs Fragen; einige der Antworten könnte niemand aus dieser Seite wissen. Deine Antworten werden auf beide Arten bewertet, neben zwei simulierten Spielern. Dann sortierst du sechs Alltagsaufgaben auf eine datierte Karte: meist in Ordnung, genau prüfen oder nicht darauf verlassen.

Schritt 2 von 4: Probier es aus: Antworten oder sich enthalten, dann die Aufgaben einordnen

Antworten oder sich enthalten, dann die Aufgaben einordnen

Beantworte sechs Fragen, sieh sie auf zwei Arten bewertet und sortiere dann sechs Alltagsaufgaben auf eine datierte Karte.

Modus:EchtSimuliertEcht: Deine Punkte werden auf dieser Seite aus deinen Antworten berechnet. Simuliert: Das Café, die beiden anderen Spieler und die Aufgabenkarte sind für dieses Kapitel geskriptet (die Karte ist eine Einschätzung mit Stand 2026-11-03, keine Messung). Hier läuft kein KI-Modell.

Schritt 3 von 4: Check

Check

Frage 1 von 3Ein Quiz gibt 1 Punkt für eine richtige Antwort, 0 für „Ich weiß es nicht“ und minus 1 für eine falsche. Du bist dir deiner Antwort zu etwa 30 % sicher. Was bringt im Schnitt die meisten Punkte?

Als Nächstes: Frage 2 von 3

Frage 2 von 3Ein Chat-Assistent übersetzt einen langen Brief gut ins Japanische und zählt dann die Buchstaben in einem kurzen Wort falsch. Was zeigt das?
Frage 3 von 3Du fragst einen Chat-Assistenten ohne Websuche, ob die Bäckerei in deiner Straße gerade geöffnet hat. Er antwortet: „Ja, sie hat heute bis 18 Uhr geöffnet.“ Was solltest du tun?

Schritt 4 von 4: Was du jetzt kannst

Was du jetzt kannst

  • Erklären, warum KI eine schwere Aufgabe gut erledigen und an einer leicht wirkenden scheitern kann.
  • Sagen, warum eine selbstsichere Antwort trotzdem falsch sein kann und warum es Raten belohnt, nur richtige Antworten zu zählen.
  • Bei einer Alltagsaufgabe entscheiden, ob das Ergebnis der KI meist in Ordnung ist, geprüft werden muss oder ob man sich nicht darauf verlassen sollte.