跳转到主要内容
零补全保险确保您不会为因服务商侧错误导致模型无法产生任何输出的请求付费。

工作原理

如果响应满足以下所有条件,则该请求不会被收费:
  1. usage.completion_tokens == 0
  2. finish_reason 为空、null"error"
  3. 故障源自服务商侧

覆盖范围

场景是否覆盖
服务商超时且无输出
服务商内部错误(5xx)
模型拒绝响应(安全过滤,0 个 token)
max_tokens: 1 但返回 0 个补全 token否(有效请求)
您的请求有错误(无效模型、错误 JSON)否(客户端错误)

无需配置

零补全保险始终处于激活状态,没有参数可以启用或禁用它。

相关文档