跳轉到主要內容
零補全保險確保您不會為因服務商側錯誤導致模型無法產生任何輸出的請求付費。

運作原理

如果回應滿足以下所有條件,則該請求不會被收費:
  1. usage.completion_tokens == 0
  2. finish_reason 為空、null"error"
  3. 故障源自服務商側

覆蓋範圍

情境是否覆蓋
服務商逾時且無輸出
服務商內部錯誤(5xx)
模型拒絕回應(安全過濾,0 個 token)
max_tokens: 1 但返回 0 個補全 token否(有效請求)
您的請求有錯誤(無效模型、錯誤 JSON)否(客戶端錯誤)

無需設定

零補全保險始終處於啟用狀態,沒有參數可以啟用或停用它。

相關文件