| 要测的指标 | 增量延迟(P50/P99)、额外 token 与调用费用、吞吐下降比例 |
|---|---|
| 优化手段 | 规则预编译、审查用小模型、异步检查、结果复用 |
| 降级策略 | 高峰期限流非关键检查项并记录风险;不静默关闭高风险检查 |
| 决策口径 | 按风险等级分配防护预算;低风险场景不必全套检查 |
对比测量模板
对比测量模板
基线: 平均 1.8s / P99 4.2s / 每次调用费用基准
加防护: 平均 2.3s / P99 5.6s / 费用 +18%
结论: P99 增量主要来自输入扫描(约六成)
计划: 输出过滤改异步抽查,验证后定稿
验证: 连续 7 天采样,覆盖高峰时段