输出长度 output length
- 指定输出文本中的 token 最大长度,一般达到最大 token 时会自动截断
- 输出长度的设置,并不会导致 LLMs 的输出简洁(可以通过提示工程来实现)
- 限制最大输出长度,有助于减少能耗,降低响应时间,规避 LLMs 的无效输出
温度 temperature
- 控制结果的随机性,较高的温度设定会导致输出结果的多样化和不确定性增加
- 温度较低可以增强 LLMs 对提示词的服从性,偏创意输出的试验可考虑高温度
注意:
- 当温度设
分类目录归档:大模型基础技巧
注意:
多 Agent 设计技巧:
MCP 协议基本架构(图源)
目前 MCP 协议已得到了广泛的生态支持,兼具通用性和灵活性
MCP 的两种模式: