Zum Inhalt springen
Zurück zu Bau deine ersten Agenten

Bau deine ersten Agenten · Kapitel 7 von 8

Callbacks und menschliche Freigabe

Einen Lauf mit Callbacks beobachten und ihn vor einem riskanten Tool anhalten, damit ein Mensch ihn freigeben oder ablehnen kann.

22 Minuten0 von 4 Zielen erreicht

Ziele

  • Häng einen Callback-Handler an und beobachte seine Events.Offen
  • Halte vor dem Erstattungs-Tool an und gib es dann frei.Offen
  • Lehne eine Erstattung ab und sieh, wie der Agent damit umgeht.Offen
  • Besteh den Check.Offen

Schritt 1 von 4: Der Text

Callbacks beobachten

Ein Callback-Handler ist ein Objekt, dessen Methoden LangChain im Lauf aufruft: eine Unterklasse von BaseCallbackHandler mit Methoden wie handleChatModelStart, handleLLMEnd, handleToolStart und handleToolEnd. Du übergibst ihn in config.callbacks, und er erreicht jeden verschachtelten Aufruf, der diese Config erhält. Nutze ihn für Logs, Metriken und Traces. Ein Callback beobachtet nur: LangChain ignoriert, was seine Methoden zurückgeben, und loggt einen darin geworfenen Fehler standardmäßig nur, also kann er einen Schritt weder ändern noch stoppen.

Breakpoints halten an

Um einen Lauf vor einem Schritt anzuhalten, muss LangGraph den State speichern und später dorthin zurückkehren. Das macht ein Checkpointer: compile({ checkpointer: new MemorySaver() }) speichert nach jedem Superstep einen Checkpoint unter der thread_id in config.configurable. Füg interruptBefore: ["approval_tools"] hinzu, und der Lauf hält vor diesem Knoten an.

Während er pausiert, sagt (await graph.getState(config)).next, was wartet, und die letzte AIMessage enthält den ausstehenden Call. Zum Freigeben setzt du mit graph.invoke(null, config) fort: Eine null-Eingabe bedeutet „mach am Checkpoint weiter“. Zum Ablehnen rufst du zuerst graph.updateState(config, { messages: [toolMessage] }, "approval_tools") auf: Deine ToolMessage beantwortet den Call, als wäre der Knoten gelaufen, also wird der Knoten übersprungen und das Modell liest deine Ablehnung.

Gib riskanten Tools einen eigenen Knoten, wie hier create_refund, damit die Schranke nur sie stoppt.

In Node und anderswo

In Node bietet createAgent aus dem Paket langchain Middleware-Hooks (beforeModel, afterModel, wrapModelCall, wrapToolCall) und humanInTheLoopMiddleware, die mit interrupt() anhält. interrupt() braucht AsyncLocalStorage, deshalb nutzt du im Browser Breakpoints, wie hier. Coding-Agenten nutzen dieselbe Idee: Hooks, die vor einem Tool-Call laufen und ihn verweigern können.

Schritt 2 von 4: Probier es aus: Eine Schranke vor der Erstattung

Eine Schranke vor der Erstattung

Vier Schritte mit je einer Aktion und ein optionaler fünfter: Beobachte die Callback-Events eines Laufs, setz eine Schranke vor die Erstattung, gib einen Lauf frei und lehne dann den nächsten ab.

Modus:EchtSimuliertEcht: LangChain-Callbacks und die Checkpoints, Breakpoints, getState, updateState und das Fortsetzen von LangGraph.js laufen auf dieser Seite. Simuliert: Das Modell ist geskriptet, auch seine Antwort auf eine Ablehnung, und das Ticket und die Tools sind fiktiv, also wird nichts erstattet.

Schritt 3 von 4: Check

Check

Frage 1 von 3Was braucht interruptBefore, um zu funktionieren?

Als Nächstes: Frage 2 von 3

Frage 2 von 3Der Lauf ist vor approval_tools angehalten. Wie setzt du ihn so fort, wie er war?
Frage 3 von 3handleToolStart eines Callback-Handlers gibt false zurück, wenn er create_refund sieht. Was passiert?

Schritt 4 von 4: Was du jetzt kannst

Was du jetzt kannst

  • Die Modell- und Tool-Events eines Laufs mit einem Callback-Handler loggen.
  • Einen Graphen mit einem Checkpointer und interruptBefore vor einem Knoten anhalten.
  • Einen ausstehenden Schritt mit getState, updateState und invoke(null) fortsetzen oder ablehnen.