빠른 시작
폴백 동작
| 시나리오 | 조치 |
|---|---|
기본 모델이 5xx 반환 | 다음 모델로 재시도 |
기본 모델이 속도 제한됨 (429) | 다음 모델로 재시도 |
| 기본 모델 사용 불가 | 다음 모델로 재시도 |
기본 모델이 4xx 반환 (잘못된 요청) | 즉시 오류 반환 |
| 모든 모델 실패 | 마지막으로 시도한 모델의 오류 반환 |
어떤 모델이 응답했는지 확인
응답의model 필드는 항상 실제로 응답을 생성한 모델을 반영합니다.
우선순위가 있는 폴백 모델 목록을 지정합니다. 기본 모델이 실패하거나 사용 불가능한 경우, ARouter가 자동으로 목록의 다음 모델로 재시도합니다.
| 시나리오 | 조치 |
|---|---|
기본 모델이 5xx 반환 | 다음 모델로 재시도 |
기본 모델이 속도 제한됨 (429) | 다음 모델로 재시도 |
| 기본 모델 사용 불가 | 다음 모델로 재시도 |
기본 모델이 4xx 반환 (잘못된 요청) | 즉시 오류 반환 |
| 모든 모델 실패 | 마지막으로 시도한 모델의 오류 반환 |
model 필드는 항상 실제로 응답을 생성한 모델을 반영합니다.