护栏产品化
状态:🚧 占位待补齐
一句话定义:把输入/输出安全策略做成 可配置、可观测、可版本化 的产品能力,而不是散落 if-else。
大纲(待补齐)
- 护栏类型:主题限制、PII、有害、越狱、工具权限
- 同步拦截 vs 异步审核
- 误杀与漏放的运营
- 与第三方 Guardrails / 厂商 Moderation API
已有相关文档(先读这些)
学习要点(补齐后应能回答)
- 护栏应放在模型前、后,还是工具层?
- 如何度量护栏的误杀率?
参考资料(待补充)
-
状态:🚧 占位待补齐
一句话定义:把输入/输出安全策略做成 可配置、可观测、可版本化 的产品能力,而不是散落 if-else。
-
评论
评论加载中…