service_tier パラメーターを使用すると、ARouter と上流プロバイダーがコストとレイテンシーのバランスをどのように取るかについての好みを表現できます。
使用方法
| 値 | 説明 |
|---|---|
"auto"（デフォルト） | プロバイダーが適切なティアを選択 |
"default" | 標準ティア — コストとパフォーマンスの最適バランス |
"flex" | コスト削減、ベストエフォートレイテンシー — バッチワークロードに最適 |
プロバイダーサポート
| プロバイダー | サポートされる値 | 備考 |
|---|---|---|
| OpenAI | "auto"、"default"、"flex" | "flex" は割引価格を提供 |
| その他 | 無視 | 渡されるが効果なし |