人工智能基础

推理(Inference)

Inference

在模型训练之后,使用已有参数处理新的输入并产生输出的计算过程。在机器学习语境里,这个词不专指逻辑推导,也包括分类、向量编码和文本生成。

举个例子

模型读取采购问题并逐步产生回答,属于推理阶段;为了让模型改变参数而继续训练,则是另一阶段。中文里“做推理题”与这里的术语含义并不完全相同。

与 GEO 的关系

报告应记录实际执行的模型、输入、时间、检索设置和失败状态。成本与时延属于运行条件,可能影响测试方案,但它们不能替代答案与引用的质量。

适用边界

推理时间更长不必然更正确,推理成功也不表示业务任务完成。一次 API 返回成功只能说明调用达到相应协议状态,仍需检查正文是否完整可用。

参考资料

相关文章

NIUBIGEO

把这些方法用在你的产品上

选择内容、推广或测试服务,也可以先与 AI 顾问聊聊。