top_k）。請參閱各提供商的文件以確認支援哪些參數。
模型選擇和路由行為在模型路由和提供商路由中單獨說明。
Temperature
- 鍵名：
temperature - 可選，浮點數，0.0 到 2.0
- 預設值：1.0
Top P
- 鍵名：
top_p - 可選，浮點數，0.0 到 1.0
- 預設值：1.0
Top K
- 鍵名：
top_k - 可選，整數，0 或以上
- 預設值：0
top_k 不適用於 OpenAI 模型。頻率懲罰
- 鍵名：
frequency_penalty - 可選，浮點數，-2.0 到 2.0
- 預設值：0.0
存在懲罰
- 鍵名：
presence_penalty - 可選，浮點數，-2.0 到 2.0
- 預設值：0.0
重複懲罰
- 鍵名：
repetition_penalty - 可選，浮點數，0.0 到 2.0
- 預設值：1.0
Min P
- 鍵名：
min_p - 可選，浮點數，0.0 到 1.0
- 預設值：0.0
min_p 設定為 0.1，則只考慮機率至少是最佳選項的 1/10 的 Token。
Top A
- 鍵名：
top_a - 可選，浮點數，0.0 到 1.0
- 預設值：0.0
Seed
- 鍵名：
seed - 可選，整數
Max Tokens
- 鍵名：
max_tokens - 可選，整數，1 或以上
Logit Bias
- 鍵名：
logit_bias - 可選，對應表
Logprobs
- 鍵名：
logprobs - 可選，布林值
Top Logprobs
- 鍵名：
top_logprobs - 可選，整數
logprobs 必須設定為 true。
Response Format
- 鍵名：
response_format - 可選，物件
{ "type": "json_object" } 可啟用 JSON 模式，保證模型生成的訊息是有效的 JSON。
要進行嚴格的結構驗證，請使用 { "type": "json_schema", "json_schema": { ... } }。
使用 { "type": "json_object" } 時，您仍應在提示中指示模型以 JSON 格式回應。
詳細用法和範例請參閱結構化輸出。
Stop
- 鍵名：
stop - 可選，字串或陣列
Tools
- 鍵名：
tools - 可選，陣列
Tool Choice
- 鍵名：
tool_choice - 可選，字串或物件
"none"：模型不會呼叫任何工具，而是生成訊息"auto"：模型可以在生成訊息或呼叫一個或多個工具之間進行選擇"required"：模型必須呼叫一個或多個工具{"type": "function", "function": {"name": "my_function"}}：強制模型呼叫特定工具
並行工具呼叫
- 鍵名：
parallel_tool_calls - 可選，布林值
- 預設值：true
tools 時適用。
Prediction
- 鍵名：
prediction - 可選，物件
completion_tokens_details.accepted_prediction_tokens 中。