DeepSeek: DeepSeek V3 0324

支持的参数

• frequency_penalty

  频率惩罚

  按 token 已出现的次数降低它再次出现的概率。

• logprobs

  对数概率

  返回每个输出 token 的对数概率。

• max_tokens

  输出上限

  最多生成多少 token。达到上限会截断。

• response_format

  响应格式

  例如 json_object 或 json_schema，用于约束输出形状。

• seed

  随机种子

  固定种子有助于复现采样结果，不保证字节级一致。

• structured_outputs

  结构化输出

  按 JSON Schema 生成可解析的结构。

• temperature

  温度

  采样温度。越低越稳定，越高越发散。常见范围 0 到 2。

• tool_choice

  工具选择

  控制是否调用工具：auto、none，或指定某个函数。

• tools

  工具

  传入函数工具定义，模型可以返回 tool_calls。

• top_k

  Top-K

  只从概率最高的 K 个 token 里采样。

• top_logprobs

  候选对数概率

  每个位置额外返回概率最高的若干候选。

• top_p

  核采样

  只在累计概率达到 top_p 的 token 里采样。