语义缓存

状态：🚧 占位待补齐
一句话定义：对 语义相近 的新问题直接返回缓存答案或中间结果，降本降延迟；不同于 Prompt Caching（前缀 token 缓存）。

大纲（待补齐）

  1. 与 Prompt Caching、HTTP 缓存的区别
  2. 相似度阈值、误缓存风险
  3. 缓存键：用户/租户/知识版本/提示版本
  4. 失效：知识更新、提示灰度
  5. 可缓存什么：最终答复 / 检索结果 / 工具结果

已有相关文档（先读这些）

学习要点（补齐后应能回答）

  • 为什么客服 FAQ 适合语义缓存，而「查我的订单」不适合？
  • 阈值如何用评测集标定？

参考资料（待补充）

-