service_tier 매개변수를 사용하면 ARouter와 업스트림 제공업체가 비용과 지연 시간의 균형을 어떻게 맞출지에 대한 선호도를 표현할 수 있습니다.
기능
서비스 티어
service_tier 매개변수를 사용하여 비용과 지연 시간 간의 균형을 제어합니다.
Documentation Index
Fetch the complete documentation index at: /llms.txt
Use this file to discover all available pages before exploring further.
service_tier 매개변수를 사용하여 비용과 지연 시간 간의 균형을 제어합니다.
service_tier 매개변수를 사용하면 ARouter와 업스트림 제공업체가 비용과 지연 시간의 균형을 어떻게 맞출지에 대한 선호도를 표현할 수 있습니다.
{
"model": "openai/gpt-5.4",
"messages": [{"role": "user", "content": "Hello"}],
"service_tier": "auto"
}
| 값 | 설명 |
|---|---|
"auto" (기본값) | 제공업체가 적절한 티어 선택 |
"default" | 표준 티어 — 최적의 비용-성능 균형 |
"flex" | 비용 절감, 최선형 지연 시간 — 배치 작업에 이상적 |
| 제공업체 | 지원 값 | 비고 |
|---|---|---|
| OpenAI | "auto", "default", "flex" | "flex"는 할인 요금 제공 |
| 기타 | 무시됨 | 전달되지만 효과 없음 |