本文へスキップ
エージェントシステムと標準に戻る

エージェントシステムと標準 · 第6章(全8章)

コンテキストエンジニアリングと検索

各モデル呼び出しが何を読むかを選ぶ:grepかベクトル検索か、大きな結果の退避、サブエージェントの初歩、スレッドをまたいで残るメモリ。

25分4個中0個の目標を達成

目標

  • 同じ語でgrepとベクトル検索を実行し、比べます。未完了
  • 大きなツール結果がコンテキストを埋めずに退避されるようにします。未完了
  • 検索をサブエージェントに任せ、コンテキストの大きさを比べます。未完了
  • 確認問題に合格します。未完了

ステップ1/4: 本文

各呼び出しが読むもの

モデル呼び出しは、そのコンテキストを読みます。システムプロンプト、これまでのメッセージ、すべてのツール結果です。コンテキストエンジニアリングとは、何を入れるかを決めることです。少なすぎるとエージェントは推測し、多すぎるとコストが増え、遅くなり、関係のないテキストや仕込まれたテキストに気を取られます。

grepかベクトルか

grepは、注文番号、チケットid、日付のような完全一致のテキストを行ごとに見つけます。コストはかからず、言い回しが違うものはすべて見逃します。

ベクトル検索は、似た意味を見つけます。各ファイルの各チャンクはベクトル(ここでは埋め込みモデルall-MiniLM-L6-v2による384個の数値)に変換され、チャンクはクエリのベクトルとのコサイン類似度で順位付けされます。「charged twice」で「payment taken two times」を見つけますが、48213では注文48144と48231についてのチケットを正しいものより上に順位付けします。フォルダーや日付などのフィルターで、古いチャンクや無関係なチャンクを除きます。

退避、スキル、サブエージェント

ツールは、コンテキストに収まるよりはるかに多くを返すことがあります。追い出しでは、大きな結果をファイルに保存し、モデルにはパスと短いプレビューを渡します。エージェントはそのファイルをgrepし、必要な行だけを読みます。

スキルも同じ考え方です。エージェントには各スキルの名前と1行の説明が見えていて、タスクが必要とするときにだけ、その指示の全文(SKILL.mdファイル)を読みます。

サブエージェントは、自分のタスクだけを持つ新しいコンテキストを受け取り、1つの報告を返します。そのため、サブエージェントが読んだものはメインのコンテキストに入りません。サブエージェント、しきい値、コンパクションは、高度なエージェントの第9章と第10章で詳しく扱います。

スレッドをまたぐメモリ

スレッドは1つの会話です。チェックポインターがそのスレッドのメッセージを保持し、新しいスレッドは空から始まります。長期メモリは、すべてのスレッドが共有するストアです。LangGraphのInMemoryStoreは、customers / mara-lindのような名前空間の下に項目を保存します。あるスレッドがそこにメモを置き、後のスレッドがそれを検索します。本番環境では、ストアはデータベースです。

このラボでは

HaldenのサポートエージェントがチケットT-48213を扱います。そのハーネスは、Deep Agents(LangChainのオープンソースのハーネス)をLangGraph.js上に再現したものです。ファイルシステムのツール、20,000トークンを超えるものの追い出し、taskサブエージェントを備えています。メモリのステップでは、LangGraph.js自身のInMemoryStoreを使います。

ステップ2/4: 試す:エージェントが読むもの

エージェントが読むもの

同じ語をgrepとベクトルで検索し、決済エクスポートを退避させ、読む作業をサブエージェントに任せ、最後に後のスレッドが読み返すメモを保存します。

モード:本物再現シミュレーション本物:grep、同梱のall-MiniLM-L6-v2のベクトルを使うLangChain.jsのテキスト分割とMemoryVectorStore、InMemoryStoreとMemorySaverを備えたLangGraph.jsが、このページで動きます。再現:deepagents 1.16のハーネスを、そのツール名、デフォルト値、メッセージごとLangGraph.js 1.5.1上に作り直したものです。本物のパッケージは、このサイトのLangSmith 0.11と一緒にはインストールできないためです。シミュレーション:モデルは台本どおりで、文書は架空です。

ステップ3/4: 確認問題

確認問題

質問1/4エージェントは、注文48213に触れているチケットをすべて見つけなければなりません。どの検索が最も合っていますか。

次:質問2/4

質問2/4ツールが40,000行のエクスポートを返します。追い出しはコンテキストに何を入れますか。
質問3/4サブエージェントから、それを始めたエージェントに何が戻りますか。
質問4/4スレッド1はストアにメモを保存しました。スレッド2はメッセージなしで始まります。スレッド2はそのメモを読めますか。

ステップ4/4: これでできること

これでできること

  • クエリに応じてgrepとベクトル検索を選び、フォルダーや日付のフィルターがいつ役立つかを説明できます。
  • 大きなツール結果を退避し、ページ単位で読めます。
  • サブエージェントを使って、メインエージェントのコンテキストを小さくきれいに保てます。
  • 長期のストアにメモを保存し、後のスレッドで読み返せます。