本文へスキップ
はじめてのエージェントを作るに戻る

はじめてのエージェントを作る · 第2章(全8章)

1回のモデル呼び出し

LangChain.jsでチャットモデルを呼び出し、返ってくるAIMessageを読み、自分のキーを安全に使います。

15分3個中0個の目標を達成

目標

  • 台本モデルで呼び出しを実行します。未完了
  • 応答の中からトークン数を見つけます。未完了
  • コードが何を出力するかを予想します。未完了

ステップ1/4: 本文

1つのインターフェース、多くのプロバイダー

プロバイダーのパッケージには、ChatAnthropicやChatOpenAIのようなチャットモデルクラスがあります。これらは1つのインターフェースを共有しています。invoke(messages)はメッセージのリストを送り、AIMessageを1つ返します。ただの文字列を渡すこともでき、その場合LangChainはそれをHumanMessageで包みます。stream(messages)は同じ応答を届いた順に断片で返すので、モデルが書いている途中からテキストを表示できます。

オプションはコンストラクターに渡します。model(そのプロバイダーでのモデル名)、temperature(0にすると言い回しが最も安定し、値を上げるほどばらつきます)、maxTokens(支払ってもよい最長の応答)です。ChatOpenAIはconfiguration.baseURLも受け取るので、同じクラスでOpenAI互換のどのサービスとも通信できます。OpenRouter、Hugging Faceのルーター、NVIDIAのAPIカタログなどです。

返ってくるもの

AIMessageには、content(普通の応答ならそのテキスト)、tool_calls(第5章までは空)、usage_metadata、response_metadataがあります。usage_metadataはトークンを数えます。トークンとは、モデルが読み書きするテキストの断片です。input_tokensは送った分、output_tokensは応答の分です。プロバイダーはトークン単位で課金し、入力は送るメッセージごとに増えていくので、注目すべきはこの数字です。response_metadataには、モデル名や停止した理由など、プロバイダーが付け加える情報が入ります。

キー

APIキーは有料アカウントのパスワードです。コードにもリポジトリにも入れないでください。自分のマシンやサーバーの環境変数から読み込みます。このページでは、接続したキーはこのタブにとどまり、ブラウザからプロバイダーへ直接送られます。学習にはそれで十分ですが、公開するアプリはサーバーからモデルを呼び出すべきです。そうすればキーが訪問者に送られることはありません。無料枠もあり、レート制限があります。

ステップ2/4: 試す:リクエストとその応答

リクエストとその応答

呼び出しを実行し、返ってきたAIMessageを開きます。実際の応答を見たい場合は、自分のモデルを接続してください。

モード:本物シミュレーションLangChain.jsの本物のクラスです。既定のモデルは台本どおりに動き、トークン数はテキストから推定します。モデルを接続すれば呼び出しは本物です。キーを使う場合はそのプロバイダーにだけ送られ、ブラウザ内のモデルはあなたのデバイス上で動きます。

ステップ3/4: 確認問題

確認問題

コード
const reply = await model.invoke("Say hello.");
console.log(typeof reply.content, reply.usage_metadata.output_tokens > 0);
モデルは「Hello.」と応答し、使用量を報告するチャットモデルです。これは何を出力しますか?

ステップ4/4: これでできること

これでできること

  • invoke()とstream()でチャットモデルを呼び出す。
  • AIMessageからcontentとトークン使用量を読む。
  • baseURLでChatOpenAIをOpenAI互換のサービスに向ける。
  • APIキーを置くべき場所と置いてはいけない場所を説明する。