主题
这簇小林讲得最深（LLM、RAG、Agent 三篇各一层），JavaGuide 有散点（提示词工程的「先引用再分析」、评测体系的 Outcome 判断），二哥只有零星提及。对比小林《大模型为什么会出现幻觉？》《如何规避 RAG 幻觉？》《Agent 的任务幻觉》与 JavaGuide《大模型提示词工程》、《AI 应用评测体系》。
两版对比
元根源，小林独家最透：LLM 不是数据库，是概率续写器——没有「查询失败」状态，永远会输出点什么。三层根因递进：训练数据有噪声（冰山一角，数据全干净也照样幻觉）→ 生成机制是续写不是查询（模型对「自己知不知道」没有显式信号）→ 对齐训练的副作用：RLHF 里「自信详细」几乎永远比「我不确定」得分高，模型被训成了不会拒答。
反直觉点（必留）：Temperature=0 也会幻觉——概率最高不等于正确，温度只能减少随机性，不能修正错误本身。这条直接纠「调低温度就不编」的普遍误解（同 采样参数页 呼应）。
幻觉的分类，小林比常见三分法多一维：事实性、推理性、上下文不一致之外，Agent 场景还有任务幻觉——没执行工具却声称完成（把「等待人工审核」读成「已退款」），本质是模型当了事实裁判。治理思路：让模型只当决策者，任务走状态机，只有「已验证」状态才允许说「已完成」，配幂等键防超时重试造成重复副作用，「错误完成声明率」设为上线硬门禁。
RAG 场景的治理链，两边可拼：小林「治幻觉先治检索」+ 门控拒答（Rerank 分数低于阈值就答「不知道」，答错比不答更危险）；JavaGuide 提示词侧「先引用再分析」+ 允许说不知道（给模型合法逃生出口）。生成后引用核查成本翻倍，只给医疗法律这类场景上。
最优题解
幻觉的根源不是数据脏，而是 LLM 的本质：它是概率续写器不是数据库，没有「我不知道」这个状态——而且对齐训练还把它往「自信回答」的方向推，因为训的时候「详细自信」总比「不确定」得分高。所以幻觉不可能根除，工程目标是降低发生率、让用户能识别、把高风险场景兜住。
治理按层组合：系统层是主力——RAG 给依据（治幻觉先治检索，检索没找到宁可不答），Rerank 分数门控低于阈值就拒答，输出强制带引用做核查；提示词层给「先引用再分析」和说不知道的合法出口；推理层低温、自一致性投票。注意温度调到 0 也防不了幻觉，它只防随机不防错。Agent 场景还要多一类：任务幻觉——没调工具却声称做完了，靠状态机让「已完成」必须由「已验证」的状态来背书，模型只能决策，事实由外部系统说了算。
追问链
追问：为什么对齐训练会催生幻觉？ 参考答：RLHF 的偏好数据里，详尽自信的回答几乎总比「不确定」得分高，模型学到的是「别空手而归」；要纠偏就得在训练里给「拒答/说不知道」正样本，让「不答」成为合格回答。
追问：怎么发现 Agent「说做完了其实没做」？ 参考答：不看模型输出看外部状态——退款单有没有真的创建、测试有没有真的跑过；把「错误完成声明率」当硬门禁指标，综合分平均不掉它。
我的理解
这题最值钱的是把幻觉从「文本问题」扩成「行动问题」：文本幻觉靠 RAG 和门控，任务幻觉靠状态机和幂等——治理手段完全不同，混着答就露怯。小林「概率续写器 + 对齐副作用」的因果链是我在面试里讲清「为什么不能根除」的底气；「答错比不答更危险」的门控原则在客服、金融场景都可以自然接自己的项目。