Skip to content

模型与参数建议

当你的接入已经跑通之后,下一步通常不是继续改 SDK,而是调整模型选择和请求参数。

什么时候先别改参数

如果你还没确认下面四件事,请先不要急着微调参数:

  • Key 可用
  • Base URL 正确
  • 请求体格式正确
  • 请求能稳定返回结果

先把链路打通,再做参数层面的优化。

常见参数思路

temperature

  • 更低:结果更稳定、更收敛
  • 更高:结果更发散、更有变化

如果你是第一次验证平台接入,建议先用默认值或较保守的设置。

stream

  • false:实现简单,适合先验证
  • true:体验更好,适合对话式场景

max_tokens

  • 过小:结果容易被截断
  • 过大:成本和响应时间可能上升

模型选择建议

适合首次联调

优先选择一个稳定、便于验证的模型,而不是一上来就追求最复杂或最昂贵的模型。

适合正式业务

按你的目标来选:

  • 对话质量优先
  • 成本优先
  • 速度优先
  • 长上下文优先

建议的联调顺序

  1. 先固定一个模型
  2. 确认请求成功
  3. 再微调参数
  4. 最后再比较不同模型效果

这样你能明确知道是“接入问题”还是“模型效果问题”。

云桥AI 官方文档