防护开销怎么评估
输入扫描、二次模型审查与输出过滤都会带来延迟与成本。上线前要做基线对比：同一批请求在开启与关闭防护时各跑一遍，比较 P50 与 P99 延迟、额外调用次数与费用；同时准备高峰期的降级策略，让防护强度可以随压力调整，而不是只能在“全开”与“全关”之间二选一。
基本信息
| 要测的指标 | 增量延迟 P50 与 P99、额外 token 与调用费用、吞吐下降比例 |
|---|---|
| 测量方法 | 同一批请求对照跑，覆盖高峰时段，连续多天采样 |
| 优化手段 | 规则预编译、审查用小模型、异步检查、结果复用 |
| 降级策略 | 高峰期限流非关键检查项并记录风险，不静默关闭高风险检查 |
| 决策口径 | 按风险等级分配防护预算，低风险场景不必全套检查 |
典型使用场景
- 新增输入扫描：先测增量延迟与费用，再决定是否全量开启
- 审查模型换小：对比拦截率与延迟，确认降低后的漏检是否可接受
- 高峰压测：观察防护在并发升高时的延迟放大倍数
- 成本预算：把防护成本单列，避免被算进模型调用成本里看不清
- 降级演练：演练高峰降级路径，确认关键检查不会被一起关掉
对比测量模板
对比测量模板
基线（关闭防护）: 平均 1.8s / P99 4.2s / 每次调用费用基准
开启防护: 平均 2.3s / P99 5.6s / 费用 +18%
结论: P99 增量主要来自输入扫描（约占六成）
计划: 输出过滤改为异步抽查，验证拦截率无显著下降后再定稿
验证: 连续 7 天采样，覆盖高峰时段与批量任务时段
# 只测平均延迟会低估高峰期的放大效应，P99 必须一起看防护环节与开销特征
| 环节 | 开销特征 | 优化方向 |
|---|---|---|
| 输入扫描 | 与输入长度正相关，同步阻塞 | 规则预编译、只扫关键片段 |
| 二次审查 | 多一次模型调用，延迟与费用双增 | 换小模型、抽样而非全量 |
| 输出过滤 | 与输出长度相关，可在流式结束后做 | 改为异步，不阻塞首 token |
| 日志与留证 | 存储与写入开销 | 采样留证，避免全量落库 |
降级不能静默：关掉哪些检查、留下哪些风险，都要在响应标记与监控里可见，否则事后无法解释某段时间的漏检。