plugins 配列を渡して、1つ以上のプラグインを有効にしてください。
利用可能なプラグイン
web — ウェブ検索
リアルタイムのウェブデータでレスポンスを補完します。あらゆるモデルで動作します。
context-compression — コンテキストウィンドウ管理
モデルのコンテキストウィンドウを超えるプロンプトを自動的に圧縮します。
auto-router — 設定可能な自動ルーティング
auto ルーターが選択できるモデルをカスタマイズします。
プラグインの実行順序
- context-compression — 必要に応じて入力が圧縮される
- web — 検索結果が取得されて注入される
- auto-router — モデル選択が行われる(
model: "auto"の場合) - リクエストが選択したモデルに転送される