LLM 架构

幻觉

Hallucination

模型输出包含错误、虚构或缺乏可用依据的内容现象。判断时需明确参照对象:与现实事实不符、与提供的来源冲突,或在材料不足时擅自补充,可能是不同问题。

举个例子

官网只列出桌面版,回答却称存在移动 App;或引用真实文档但编造其中没有的性能数据。链接真实与结论真实必须分别核查。

与 GEO 的关系

给出版本、限制、第一手证据和清楚的实体关系,有助于减少可避免的信息空白。发现错误后,应保存原回答并定位错误主张,而不是只给整段答案打一个笼统标签。

适用边界

联网、引用或更低温度都不能保证没有幻觉。来源自身也可能错误;没有支持材料时可以标为未确认,不能由另一个模型重复同样说法就认定真实。

参考资料

相关文章

NIUBIGEO

把这些方法用在你的产品上

选择内容、推广或测试服务,也可以先与 AI 顾问聊聊。