输出长度 output length
- 指定输出文本中的 token 最大长度，一般达到最大 token 时会自动截断
- 输出长度的设置，并不会导致 LLMs 的输出简洁（可以通过提示工程来实现）
- 限制最大输出长度，有助于减少能耗，降低响应时间，规避 LLMs 的无效输出
温度 temperature
- 控制结果的随机性，较高的温度设定会导致输出结果的多样化和不确定性增加
- 温度较低可以增强 LLMs 对提示词的服从性，偏创意输出的试验可考虑高温度
注意：
- 当温度设
发表评论
82 views
