service_tier 매개변수를 사용하면 ARouter와 업스트림 제공업체가 비용과 지연 시간의 균형을 어떻게 맞출지에 대한 선호도를 표현할 수 있습니다.
사용법
| 값 | 설명 |
|---|---|
"auto" (기본값) | 제공업체가 적절한 티어 선택 |
"default" | 표준 티어 — 최적의 비용-성능 균형 |
"flex" | 비용 절감, 최선형 지연 시간 — 배치 작업에 이상적 |
제공업체 지원
| 제공업체 | 지원 값 | 비고 |
|---|---|---|
| OpenAI | "auto", "default", "flex" | "flex"는 할인 요금 제공 |
| 기타 | 무시됨 | 전달되지만 효과 없음 |