AI 安全事件响应是什么
把内容事故、数据泄露、密钥泄露、模型滥用与服务中断分成不同事件类型，各自预设首个动作与责任分工。这几类事件的处理细节不同，但共同前提只有三个：能在分钟级生效的熔断开关、完整可查的日志与样本、明确的上报路径与对外口径。事发时如果只有「全站下线」这一个手段，代价往往比事件本身更大。
基本信息
| 分级机制 | 按影响范围分级并明确值班人、通知渠道与响应时限 |
|---|---|
| 熔断开关 | 功能级或模型级的开关，能在分钟级关停特定能力而不影响全站 |
| 留证要求 | 日志、输入输出样本、时间线完整保留，处置时不要破坏现场 |
| 影响评估 | 受影响用户数、数据类别与范围，据此判断是否触发上报义务 |
| 上报路径 | 法务、安全与客户通知的责任人与话术提前确定 |
| 复盘闭环 | 根因分析、回归用例入库、模型卡与预案同步更新 |
典型使用场景
- 违规内容被批量生成并引发投诉：需要立刻停掉相关功能而不是下线整站
- 系统提示或内部配置泄露：隔离会话、评估影响面并加固提示分区
- 密钥泄露被盗刷：第一时间吊销并轮换密钥，核查异常用量
- 提示注入导致越权操作：定位注入来源，检查工具权限与审计日志
- 上游供应商故障：按预案切换到备用供应商或降级到规则回复
响应 Runbook 骨架
响应 Runbook 骨架
1) 发现与分级：明确来源渠道、值班人、P0 到 P3 的判定标准
2) 止血：功能开关、熔断、密钥吊销，目标分钟级生效 # 先止血再定位
3) 留证：导出日志、输入输出样本与操作时间线，保留现场
4) 评估：影响范围、用户数、数据类别，判断是否触发上报义务
5) 修复：根因修复并补充回归用例，把该场景加入红队用例集
6) 复盘：更新预案、模型卡与对外说明口径，记录未解决项
# 检查点：每季度桌面演练一次，验证开关位置、权限人与生效时间事件类型与首个动作
| 事件类型 | 首个动作 | 关键前提 |
|---|---|---|
| 违规内容生成 | 熔断相关功能并加规则 | 有审计日志可回溯样本 |
| 提示或数据泄露 | 隔离会话并评估影响面 | 数据映射与访问日志完整 |
| 密钥泄露 | 吊销并轮换密钥 | 密钥可快速失效且能查用量 |
| 模型滥用与攻击流量 | 限流、封禁、切换供应商 | 网关配额与多供应商热备 |
| 上游服务中断 | 降级到备用链路或规则回复 | 降级策略已实现并演练过 |
没有功能级熔断开关，出事时只能全站下线：业务损失与舆情影响都会被放大，而开关的实现成本通常远低于一次事故的代价，属于上线前就该补齐的能力。
定期做一次桌面演练：把「开关在哪、谁有权按下、多久生效」练成肌肉记忆，这比预案文档写得多完整都更有价值，演练中暴露的授权缺口也最真实。