LLM 架构

温度

Temperature

采样过程中调节候选 token 概率分布的一种参数,常通过用温度缩放 logits 后再归一化实现。较高或较低通常改变选择的分散程度,具体支持范围取决于接口。

举个例子

对同一教学概率向量改变温度,可以观察分布更平缓或更集中。但真实回答还受搜索结果、系统提示、模型版本和其他解码设置影响。

与 GEO 的关系

GEO 复测要记录温度是显式设置、平台默认还是不可见,不能把未知当成固定值。重复提问用于观察波动时,也应记录请求失败与平台更新。

适用边界

温度低不是事实核查开关,设为零也不能保证跨机器、版本和检索状态完全重现。不能通过提高温度选择更有利答案,再作为中性基线。

参考资料

相关文章

NIUBIGEO

把这些方法用在你的产品上

选择内容、推广或测试服务,也可以先与 AI 顾问聊聊。