高度なエージェント · 第7章(全10章)
計画を立てるループ
Plan-and-execute、ReWOO、LLMCompilerは作業の前に計画を立て、モデル呼び出し、スーパーステップ、時間に違いが出ます。
目標
- plan-and-executeを実行します:計画を立て、1ステップずつ進め、各ステップの後に再計画します。未完了
- ReWOOを実行します:#Eプレースホルダー付きの計画を1つ立て、ツールを動かし、最後に1回答えます。未完了
- LLMCompilerを実行します:独立したタスクが同時に動くタスクグラフです。未完了
- 確認問題に合格します。未完了
ステップ1/4: 本文
まず計画し、それから動く
ここまでのエージェントは、ツール呼び出しを1回ずつ決めていました:モデルを呼び、ツールを実行し、またモデルを呼びます。これがReActループです。計画するエージェントは、まずモデルに計画を求め、それから順にこなします。公開された3つのパターンが、これをそれぞれ別のやり方で行います。ラボでは3つのカウンターで比べます:モデル呼び出し、スーパーステップ(第1章と同じく、ノード実行の1ラウンド)、1回の実行にかかる時間です。
Plan-and-execute
plannerノードがステップのリストを書きます。agentノードが最初のステップを行います:モデルがツール呼び出しを選び、ノードがそれを実行します。replanノードは終わったことを読み、答えるか、残りのステップを書き直します。計画は結果のたびに変えられますが、各ステップに少なくとも2回のモデル呼び出しがかかります:行動に1回、再計画に1回です。この考え方は、論文Plan-and-Solve(2023)とLangGraphのplan-and-executeチュートリアルから来ています。
ReWOO
ReWOO(2023)は計画全体を1回のモデル呼び出しで書き、各結果に、まだ存在しないうちから名前を付けます:#E1 = search[…]、次に#E3 = forecast[#E1]。#E1はプレースホルダーです。toolノードはステップを順に実行し、モデルを呼ばずに、各結果をその名前の位置に入れます。solveノードがもう1回モデルを呼んで答えます。合計2回のモデル呼び出しで済みますが、一度書いた計画は変えられません。
LLMCompiler
LLMCompiler(2023)は計画を、ループのないタスクグラフ、つまりDAGとして書きます:3. forecast($1)は、タスク3がタスク1の結果を必要とするという意味です。スケジューラ(論文のtask fetching unit)は、必要なタスクが終わるとすぐに各タスクを始めるので、互いを必要としないタスクは同時に動きます。joinノードが結果を読み、答えるか新しい計画を求めます。
このラボでは
1つの調べもののタスクを3通りに実行します:架空のショップHaldenのために、2つのトレイルレースそれぞれのスタート地点の土曜日の天気予報を調べます。各グラフは本物のLangGraph.js 1.5.1で、getGraphAsync()から描いています。Nodeなら、スケジューラを関数型APIで、task()の呼び出しが並列に動くentrypointとして書くこともできます。task()にはAsyncLocalStorageが必要ですが、ブラウザ版にはないため、ここのscheduleノードは普通のPromiseを始め、configを手で渡します。モデルは台本どおりで、各呼び出しには台本で決めた時間がかかり、画面上では速めて表示し、シミュレーション時間として数えます。
ステップ2/4: 試す:1つのタスク、3つのプランナー
1つのタスク、3つのプランナー
同じ調べもののタスクをplan-and-execute、ReWOO、LLMCompilerとして実行し、モデル呼び出し、スーパーステップ、シミュレーション時間を比べます。
モード:本物シミュレーション本物:LangGraph.js 1.5.1がこのページで動きます。シミュレーション:モデルの判断と各呼び出しにかかる時間は台本どおりで、レース、町、天気予報は架空のものです。
ステップ3/4: 確認問題
確認問題
次:質問2/3
ステップ4/4: これでできること
これでできること
- plan-and-execute、ReWOO、LLMCompilerをLangGraph.jsのグラフとして作る。
- 各パターンのコストをモデル呼び出し、スーパーステップ、時間で数え、違いがどこから来るかを説明する。
- パターンを選ぶ:結果で計画が変わりうるなら再計画し、変わらないなら一度だけ計画し、独立したステップは同時に実行する。