告警分级是什么
注入相关告警必须分级，否则所有事件同一优先级会迅速造成响应疲劳，真正严重的被淹没在噪声里。分级的依据是影响面：canary 泄露、越权调用成功、批量外发尝试属于最高级，要立即阻断并值班响应；单条低置信度的可疑输入只记录，按周汇总。每一级都要写清响应时限与责任人，只告警不定义动作等于通知，不是响应。
基本信息
| 适用平台 | 带安全监控的 LLM 应用；对接值班与工单系统 |
|---|---|
| 分级依据 | 影响面（是否已造成外泄或越权）与置信度 |
| 必备内容 | 每级的响应时限、责任人、处置动作与升级条件 |
| 防疲劳原则 | 低置信度事件只聚合不实时打扰，避免通道被噪声占满 |
典型使用场景
- canary 触发：进入最高级，立即阻断相关通道
- 越权尝试：工具层拒绝记录密集出现时进入高级
- 高频注入模式：单会话短时间内多次命中，限速并人工确认
- 低置信度命中：记录后按周汇总，观察趋势而非逐条处理
- 误报收敛：定期复核被误报的规则，调整阈值或加入白名单
分级示例
分级示例
# P1：canary 泄露 / 越权调用成功 / 批量外发尝试
# → 立即阻断相关通道，值班分钟级响应，通知安全负责人
# P2：跨租户访问尝试 / 单会话高频注入命中 / 审批绕过迹象
# → 限速并人工确认，小时级响应
# P3：单条低置信度可疑输入 / 规则命中但已降权处理
# → 记录并周度汇总，不实时打扰
# 升级：同类事件密度超阈值自动升级（例如单租户 P2 数量翻倍升 P1）
# 每级写清：响应时限、责任人、动作、复盘要求分级与动作对照
| 级别 | 判定特征 | 处置动作 |
|---|---|---|
| P1 | 已造成泄露、越权或批量外发 | 阻断通道、值班响应、按事件流程处理 |
| P2 | 存在越权或绕过迹象但未落地 | 限速、人工确认、收紧该会话权限 |
| P3 | 低置信度可疑输入 | 记录、聚合、周报观察趋势 |
| 误报 | 复核确认无风险 | 调整规则或加白名单，记录原因 |
升级条件要写成规则而不是靠人判断：例如同一租户 24 小时内 P2 事件超过阈值自动升为 P1，避免值班人员疲于处理后漏掉正在升级的事件。
按「事件密度」而非「单条分数」触发告警通常更有效：单条可疑输入不足以下结论，短时间内的密集命中则明确指向有针对性尝试。