LLM 架构

参数

Parameters

模型在训练中学习到的数值,例如权重与偏置,用于把输入转换为表示和输出。参数规模描述模型的一种容量特征,但不同结构、数据和训练方式会改变其实际表现。

举个例子

同样规模的两个模型可能在代码、语言或检索辅助问答上表现不同。某个模型认识品牌,也不能据此定位到一组能够直接修改的品牌专属参数。

与 GEO 的关系

测试应记录具体模型与运行条件,而不是仅写“大模型”。当回答包含旧事实时,先核对公开资料和检索条件,不能把网页编辑描述成修改平台模型参数。

适用边界

参数越多不必然对所有问题越好,也不能从参数量估计品牌推荐率。稀疏结构还区分总参数与实际激活参数,数字比较必须使用相同口径。

参考资料

相关文章

NIUBIGEO

把这些方法用在你的产品上

选择内容、推广或测试服务,也可以先与 AI 顾问聊聊。