Zum Inhalt springen
Alle Pfade
KI verstehenEinstiegOhne Code8 Kapitel120 Min.

Modelle verstehen

Welche Arten von Modellen Agenten nutzen, woher sie kommen und wie man sie vergleicht. Mit Zahlen, ohne Code.

Für alle, die wissen wollen, was in den Modellen hinter KI-Werkzeugen steckt. Du siehst, wie Text zu Tokens wird, wie ein Modell das nächste wählt, wie Modelle entstehen, wie groß sie sind und was ihre Lizenzen erlauben, und dann wählst du ein Modell für einen Agenten. Die Beispiele stellen geschlossene und offene Modelle nebeneinander, und jede Zahl stammt aus einer datierten Momentaufnahme.

Kapitel

  1. Kapitel 1Offen

    Arten von Modellen

    Chat-, Reasoning-, multimodale, Embedding-, Sprach-, Bild-, Guard- und kleine Modelle sowie Reranker erledigen verschiedene Aufgaben, und ein Agent nutzt oft mehrere davon.

  2. Kapitel 2Gesperrt

    Tokens

    Modelle lesen und schreiben Text als Tokens, jede Modellfamilie zerlegt Text auf ihre eigene Weise, und sowohl Preise als auch Kontextgrenzen werden in Tokens gezählt.

    14 Min.
  3. Kapitel 3Gesperrt

    Das nächste Token wählen

    Ein Modell gibt jedem möglichen nächsten Token einen Score, macht aus den Scores Wahrscheinlichkeiten und zieht eins zufällig; Temperatur, Top-k und Top-p verändern die Ziehung, und Basis-, Instruct- und Reasoning-Modelle sind darauf trainiert, unterschiedlich zu schreiben.

    14 Min.
  4. Kapitel 4Gesperrt

    Woher Modelle kommen

    Ein Modell entsteht in Stufen, von den Daten und dem Pre-Training über Fine-Tuning, Feedback und Destillation bis zur Quantisierung, und bei offenen Modellen hinterlassen viele Stufen eine Datei, die du dir ansehen kannst.

    15 Min.
  5. Kapitel 5Gesperrt

    Größe und Speicher

    Den Speicher, den ein Modell braucht, bestimmen seine Parameter und die Bits, mit denen jeder gespeichert wird, plus Platz für seinen Kontext; ein Mixture-of-Experts-Modell nutzt für jedes Token nur wenige seiner Parameter, hält aber alle im Speicher.

    15 Min.
  6. Kapitel 6Gesperrt

    Offene und geschlossene Modelle

    Manche Modelle lassen sich nur über den Dienst ihres Herstellers nutzen, manche teilen ihre Gewichte unter Lizenzen von streng bis permissiv, und einige wenige sind Open Source, mit ihren Daten und ihrem Code.

    15 Min.
  7. Kapitel 7Gesperrt

    Modelle vergleichen

    Benchmarks und Ranglisten helfen dir, Modelle zu vergleichen, aber Fehlermargen, Aufwandsstufen, Kosten, durchgesickerte Tests, ausgereizte Tests, das Testprogramm und wer den Test durchgeführt hat, ändern alle, was ein Score bedeutet.

    15 Min.
  8. Kapitel 8Gesperrt

    Ein Modell für einen Agenten wählen

    Ein Modell wählen heißt: die streichen, die an einer harten Grenze scheitern, und dann Fähigkeit, Tempo, Preis pro Aufgabe, Kontext und Zuverlässigkeit bei Tools für die Arbeit eines Agenten abwägen.

    18 Min.