Documentation Index
Fetch the complete documentation index at: https://docs.arouter.ai/llms.txt
Use this file to discover all available pages before exploring further.
模型回退允許你按優先順序指定多個候選模型。如果第一個模型回傳錯誤、逾時或不可用,ARouter 會自動使用下一個模型重試。
快速開始
{
"model": "openai/gpt-5.4-pro",
"models": ["openai/gpt-5.4-pro", "openai/gpt-5.4", "anthropic/claude-sonnet-4.6"],
"messages": [{"role": "user", "content": "Hello"}]
}
回退行為
| 情境 | 動作 |
|---|
主要模型回傳 5xx | 使用下一個模型重試 |
主要模型被限速(429) | 使用下一個模型重試 |
| 主要模型不可用 | 使用下一個模型重試 |
主要模型回傳 4xx(錯誤請求) | 立即回傳錯誤 |
| 所有模型都失敗 | 回傳最後一個嘗試模型的錯誤 |
識別哪個模型回應了
回應中的 model 欄位始終反映實際生成回應的模型。
你只為實際回應的模型付費。失敗的嘗試不計費。
與提供商回退結合使用
{
"model": "openai/gpt-5.4-pro",
"models": ["openai/gpt-5.4-pro", "openai/gpt-5.4"],
"provider": {"order": ["Azure", "OpenAI"], "allow_fallbacks": true}
}
使用情境
高可用生產環境:
{"models": ["anthropic/claude-opus-4.5", "anthropic/claude-sonnet-4.6", "openai/gpt-5.4-pro"]}
成本優化同時保證品質下限:
{"models": ["openai/gpt-5.4:free", "meta-llama/llama-4-maverick:free", "openai/gpt-5.4"]}