Skip to main content
某些模型在生成最终响应之前会进行内部链式思考推理。这些推理步骤消耗的 Token 称为推理 Token——它们会影响成本和延迟,但默认情况下用户不可见。

支持的模型

推理 Token 在使用量中的体现

推理 Token 作为 completion_tokens_details 的一部分,在 usage 对象中报告:
在此示例中,520 个补全 Token 中有 400 个用于内部推理。只有剩余的 120 个 Token 出现在可见响应中。

推理 Token 的计费

推理 Token 按该模型的补全 Token 费率计费。它们被纳入 completion_tokens 进行计费——详细分类仅供参考。 ARouter 不对上游服务商的推理 Token 计数进行任何修改,直接透传。

控制推理行为

OpenAI o 系列(o4-mini、o3)

o 系列模型的推理始终开启。使用 reasoning_effort 控制模型推理的程度:
有效值:"low""medium""high"。力度越高 = 推理 Token 越多 = 质量和成本越高。

Anthropic 扩展思考

通过在请求中传递 thinking 来启用扩展思考:
budget_tokens 限制了可用于思考的最大 Token 数。思考内容作为响应中的独立块返回。

DeepSeek R1

DeepSeek R1 的推理始终开启。该模型在常规 content 旁边返回一个 reasoning_content 字段:

Google Gemini 思考

通过 thinking 参数为 Gemini 2.5 模型启用思考:

活动导出与推理 Token

活动导出包含推理 Token 的详细数据,便于准确追踪其对总成本的贡献。在导出摘要中,推理 Token 包含在补全 Token 中。

最佳实践

  • "low""medium" 力度开始 使用 o 系列模型,除非您需要最高推理质量。这可以显著降低成本和延迟。
  • 为 Anthropic 和 Gemini 思考模型设置 budget_tokens 上限,以避免在复杂查询上产生意外的大额账单。
  • 在活动记录中监控推理 Token 占比。推理 Token 与输出 Token 的高比例对复杂任务是正常的,但可能表明模型在简单查询上过度思考。
  • 不要为了节省成本而禁用推理,对于真正需要多步推理的任务——输出质量会显著下降。