plugins 陣列以啟動一個或多個外掛程式。
可用外掛程式
web — 網頁搜尋
用即時網路資料支撐回應。適用於任何模型。
context-compression — 上下文視窗管理
自動壓縮超出模型上下文視窗的提示詞。
auto-router — 可設定的自動路由
自訂 auto 路由器可以從哪些模型中進行選擇。
外掛程式執行順序
- context-compression — 如有需要,輸入會被壓縮
- web — 搜尋結果被擷取並注入
- auto-router — 模型選擇發生(如果
model: "auto") - 請求被轉發到所選模型