provider 对象,变体是直接嵌入模型字符串中的简洁简写方式。
:nitro — 最大吞吐量
附加 :nitro 可路由到模型的最高吞吐量实例。等同于设置 provider.sort = "throughput"。
最适合:实时应用、交互式聊天、流式 UI
- TypeScript
- Python
- cURL
:floor — 最低成本
附加 :floor 可路由到模型的最低成本实例。等同于设置 provider.sort = "price"。
最适合:批处理、离线工作负载、对成本敏感的流水线
- TypeScript
- Python
- cURL
:free — 免费层
附加 :free 可路由到模型的免费层实例。免费层实例适用于许多热门模型,但有速率限制。
最适合:原型开发、开发测试、低流量测试
- TypeScript
- Python
- cURL
免费层模型有更严格的速率限制,且上下文窗口可能缩减。详情请参阅速率限制。
:thinking — 扩展推理
附加 :thinking 可在支持的模型上启用扩展思维链推理(如 DeepSeek R1、启用扩展思考的 Claude、Gemini Flash Thinking)。
最适合:复杂推理、数学、编程、多步骤问题
- TypeScript
- Python
- cURL
:thinking 后,推理 Token 将出现在响应的 usage.completion_tokens_details 中:
:extended — 扩展上下文
附加 :extended 可访问上下文窗口比默认更大的模型版本。
最适合:长文档处理、大型代码库、长对话
- TypeScript
- Python
:exacto — 工具调用质量
附加 :exacto 可明确激活工具调用请求的质量排名路由。ARouter 会选择工具调用质量评分最高的提供商端点,而不是最便宜的选项。
最适合:生产工具调用流水线,对结构体遵从和参数准确性的要求高于成本
- TypeScript
- Python
tools 时自动激活。:exacto 即使在没有工具的请求中也会强制使用质量排名路由——当您希望无论模型是否调用工具都保持一致的提供商选择行为时非常有用。
组合变体
某些变体可以组合使用:并非所有组合都有效。如果模型不支持所请求的组合,ARouter 将返回错误。
变体参考
变体如何影响路由
变体在服务器端解析,并影响 ARouter 选择的端点:- 基础模型 ID(如
openai/gpt-5.4)标识模型系列 - 后缀修改端点选择标准
- ARouter 在
response.model中返回实际使用的模型
response.model 以查看实际服务的模型变体:
provider 对象选项。