首页/AI/提示词工程速查/告警分级与响应
提示注入与防护50 条

告警分级与响应

按影响面分级告警:canary 触发与越权尝试为高优先级,单条可疑输入为低优先级;每级定义响应时限与动作。

提示词工程速查AI更新于 2026-10-12

分级示例

分级示例
P1:canary 泄露 / 越权调用成功 / 批量外发尝试
    → 立即阻断相关通道,值班响应(分钟级)
P2:跨租户访问尝试 / 高频注入模式(单会话)
    → 限速并人工确认(小时级)
P3:单条低置信度可疑输入
    → 记录并周度汇总(不打扰)
避免疲劳低置信度事件只聚合不实时打扰
时限每级写清响应时限与责任人
升级同类事件密度超阈值自动升级

易错点

  • 所有告警同一优先级会迅速造成响应疲劳,重要的被淹没
  • 只告警不定义动作等于通知,不是响应

数据来源与参考

  • 安全运营中心(SOC)告警分级与响应实践;OWASP LLM01 监测建议
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌