Zum Inhalt springen
Zurück zu Agenten für Fortgeschrittene

Agenten für Fortgeschrittene · Kapitel 7 von 10

Planungsschleifen

Plan-and-execute, ReWOO und LLMCompiler planen die Arbeit, bevor sie sie erledigen, und unterscheiden sich in Modellaufrufen, Supersteps und Zeit.

20 Minuten0 von 4 Zielen erreicht

Ziele

  • Starte Plan-and-execute: ein Plan, ein Schritt nach dem anderen und eine Neuplanung nach jedem Schritt.Offen
  • Starte ReWOO: ein Plan mit #E-Platzhaltern, die Tools, dann eine Antwort.Offen
  • Starte LLMCompiler: ein Task-Graph, dessen unabhängige Tasks gleichzeitig laufen.Offen
  • Besteh den Check.Offen

Schritt 1 von 4: Der Text

Erst planen, dann handeln

Die bisherigen Agenten haben einen Tool-Aufruf nach dem anderen entschieden: Modell aufrufen, Tool ausführen, Modell wieder aufrufen. Das ist die ReAct-Schleife. Ein planender Agent bittet das Modell zuerst um einen Plan und arbeitet ihn dann ab. Drei veröffentlichte Muster tun das auf verschiedene Weise. Das Lab vergleicht sie an drei Zählern: Modellaufrufe, Supersteps (eine Runde von Knotenläufen, wie in Kapitel 1) und wie lange ein Lauf dauert.

Plan-and-execute

Ein Knoten planner schreibt eine Liste von Schritten. Ein Knoten agent erledigt den ersten: Das Modell wählt einen Tool-Aufruf, und der Knoten führt ihn aus. Ein Knoten replan liest, was erledigt ist, und antwortet dann oder schreibt die übrigen Schritte neu. Der Plan kann sich nach jedem Ergebnis ändern, aber jeder Schritt kostet mindestens zwei Modellaufrufe: einen zum Handeln, einen zum Neuplanen. Die Idee stammt aus dem Paper Plan-and-Solve (2023) und dem Plan-and-execute-Tutorial von LangGraph.

ReWOO

ReWOO (2023) schreibt den ganzen Plan in einem Modellaufruf und benennt jedes Ergebnis, bevor es existiert: #E1 = search[…], dann #E3 = forecast[#E1]. #E1 ist ein Platzhalter. Ein Knoten tool führt die Schritte der Reihe nach aus und setzt jedes Ergebnis für seinen Namen ein, ohne Modellaufruf. Ein Knoten solve ruft das Modell noch einmal auf, um zu antworten. Das sind insgesamt zwei Modellaufrufe, aber der Plan kann sich nicht mehr ändern, sobald er geschrieben ist.

LLMCompiler

LLMCompiler (2023) schreibt den Plan als Task-Graph ohne Schleifen, einen DAG: 3. forecast($1) heißt, dass Task 3 das Ergebnis von Task 1 braucht. Ein Scheduler, die Task Fetching Unit aus dem Paper, startet jeden Task, sobald die Tasks fertig sind, die er braucht, also laufen Tasks, die nichts voneinander brauchen, gleichzeitig. Ein Knoten join liest die Ergebnisse und antwortet dann oder fordert einen neuen Plan an.

In diesem Lab

Eine Rechercheaufgabe läuft auf drei Arten: die Wettervorhersage für Samstag am Start von zwei Trailläufen, für Halden, den erfundenen Shop. Jeder Graph ist echtes LangGraph.js 1.5.1, gezeichnet aus getGraphAsync(). In Node könntest du den Scheduler auch mit der funktionalen API schreiben, als entrypoint, dessen task()-Aufrufe parallel laufen. task() braucht AsyncLocalStorage, das dem Browser-Build fehlt, also startet der Knoten schedule hier einfache Promises und reicht config von Hand weiter. Das Modell ist geskriptet, und jeder Aufruf dauert eine geskriptete Zeit, auf dem Bildschirm beschleunigt und als simulierte Zeit gezählt.

Schritt 2 von 4: Probier es aus: Eine Aufgabe, drei Planer

Eine Aufgabe, drei Planer

Führ dieselbe Rechercheaufgabe als Plan-and-execute, ReWOO und LLMCompiler aus und vergleiche dann ihre Modellaufrufe, Supersteps und simulierte Zeit.

Modus:EchtSimuliertEcht: LangGraph.js 1.5.1 läuft auf dieser Seite. Simuliert: Die Entscheidungen des Modells und wie lange jeder Aufruf dauert sind geskriptet, und die Trailläufe, Orte und Vorhersagen sind erfunden.

Schritt 3 von 4: Check

Check

Frage 1 von 3Eine Aufgabe braucht fünf Suchen, die nicht voneinander abhängen, dann eine Antwort. Welches Muster kann am frühesten fertig sein?

Als Nächstes: Frage 2 von 3

Frage 2 von 3Ein ReWOO-Plan hat den Schritt #E3 = forecast[#E1]. Was passiert mit #E1, bevor forecast läuft?
Frage 3 von 3Der Lake Loop fällt aus, also liefert die Suche nach seinem Startort „Kein Ergebnis.“ Welches Muster kann die Vorhersage für den Lake Loop streichen, bevor sie läuft?

Schritt 4 von 4: Was du jetzt kannst

Was du jetzt kannst

  • Plan-and-execute, ReWOO und LLMCompiler als LangGraph.js-Graphen bauen.
  • Zählen, was jedes Muster an Modellaufrufen, Supersteps und Zeit kostet, und sagen, woher der Unterschied kommt.
  • Ein Muster wählen: neu planen, wenn Ergebnisse den Plan ändern können, einmal planen, wenn nicht, und unabhängige Schritte gleichzeitig ausführen.