首页/AI/AI 应用速查/AI 安全事件响应:熔断、留证、复盘
本包目录(159 条)

AI 安全事件响应:熔断、留证、复盘

预先准备好事件响应:内容事故、数据泄露、密钥泄露、模型滥用、服务中断各有预案;关键能力是“快速熔断开关 + 完整日志 + 上报路径”,事发时没有开关等于没有预案。

AI 应用速查AI更新于 2026-10-12

事件类型

事件首动作关键前提
内容事故(违规生成)熔断相关功能/加规则有审计日志可回溯样本
提示/数据泄露隔离会话、评估影响面数据映射与访问日志
密钥泄露吊销并轮换 key密钥可快速失效
模型滥用/攻击流量限流/封禁/切换供应商网关配额与多供应商热备

响应 Runbook(骨架)

响应 Runbook(骨架)
1) 发现与分级(P0-P3,谁值班、什么渠道)
2) 止血:功能开关 / 熔断 / 密钥吊销(分钟级)
3) 留证:日志、输入输出样本、时间线(不破坏现场)
4) 评估:影响范围、用户数、数据类别 → 是否触发上报义务
5) 修复与复盘:根因、回归用例入库、对外说明口径
定期桌面演练:把“开关在哪、谁有权按下、多久生效”演练成肌肉记忆,比预案文档本身更有价值。

易错点

  • 没有功能级熔断开关,出事只能全站下线
  • 日志留存不足,影响评估做不出来

数据来源与参考

  • NIST AI RMF(事件响应);网络安全事件应急预案通行框架

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌