护栏产品化

状态:🚧 占位待补齐
一句话定义:把输入/输出安全策略做成 可配置、可观测、可版本化 的产品能力,而不是散落 if-else。

大纲(待补齐)

  1. 护栏类型:主题限制、PII、有害、越狱、工具权限
  2. 同步拦截 vs 异步审核
  3. 误杀与漏放的运营
  4. 与第三方 Guardrails / 厂商 Moderation API

已有相关文档(先读这些)

学习要点(补齐后应能回答)

  • 护栏应放在模型前、后,还是工具层?
  • 如何度量护栏的误杀率?

参考资料(待补充)

-