幻觉机理与缓解

状态：🚧 占位待补齐
一句话定义：模型在不确定时仍可能 一本正经地编造 ；工程师要区分幻觉类型，并组合检索、约束、校验、拒答等手段压风险。

你为什么要学这个

几乎所有 AI 产品事故都与「说了不该说的假话」或「漏说该拒答」有关。

大纲（待补齐）

  1. 幻觉分类：事实 / 引用 / 工具参数 / 能力吹嘘
  2. 为何会发生（训练目标、解码、知识截止、上下文冲突）
  3. 缓解矩阵：RAG、引用强制、结构化校验、自洽、工具核实、降权温度
  4. 何时该拒答 vs 何时该猜测
  5. 评测：幻觉率怎么测（链到评测篇）

已有相关文档（先读这些）

学习要点（补齐后应能回答）

  • 幻觉和「知识过期」是一回事吗？
  • 上线前最少要上哪三道缓解？

参考资料（待补充）

-