首页/AI/提示词工程速查/注入事件的响应流程
提示注入与防护50 条

注入事件的响应流程

疑似被注入成功时:先限流或停用对应能力、保全证据、评估数据影响面、修复后灰度恢复。

提示词工程速查AI更新于 2026-10-13

注入事件响应是什么

疑似注入成功时,响应顺序是:先止损,再取证,然后评估影响面,最后修复并灰度恢复。止损的具体做法是关掉该代理的写操作或外发能力——这要求止损开关提前做好并演练过,事发时才能分钟级生效,而不是临时改代码发布。取证必须在清理环境之前完成,否则影响范围无从确认。

基本信息

适用平台带工具调用与外发能力的代理系统;需要运维与安全协同
关键预置止损开关(按能力粒度)、日志保留窗口覆盖事件追溯周期
证据清单原始输入、模型输出、工具调用记录、出站日志、命中记录
合规联动涉及个人信息泄露时按合规要求评估通报义务

典型使用场景

  • canary 触发:确认是否有内容被外发或复述
  • 越权调用告警:工具接口拒绝记录异常增多
  • 用户投诉异常外发:邮件或消息被发送到非预期地址
  • 数据异常变更:记录被批量修改或删除
  • 同业事件借鉴:类似系统出事时,对照检查自身是否有同类路径

响应步骤

响应步骤
# 1) 止损:关闭该代理的写操作或外发能力(使用预置开关)
# 2) 取证:保全原始输入、模型输出、工具调用与出站日志
# 3) 评估:确定受影响租户与数据范围,判断是否已外泄
# 4) 修复:补检测规则或收紧权限,跑回归集验证
# 5) 恢复:灰度放量,观察 24-72 小时后再全量
# 6) 复盘:把本次手法并入回归用例,更新告警规则与止损开关粒度

阶段动作与常见失误

阶段要做的事常见失误
止损关能力、限流、隔离会话无预置开关,等改代码发布
取证保全日志与原始内容先清理环境,证据丢失
评估圈定影响范围与数据类别只查表象不查外发记录
修复补规则、收紧权限、跑回归只修单点,同类变体仍可绕过
恢复灰度放量并观察直接全量,二次事件概率上升
止损开关按能力粒度设计:能只关「外发」就不必把整个代理停用。粒度越细,止损对业务的影响越小,值班人员越敢在第一时间动手。
日志保留窗口要能覆盖事件追溯周期。很多事件是事后数日才被发现,若日志按小时轮转清理,取证阶段会直接卡住。

易错点

  • 没有预置止损开关时,响应只能靠改代码发布,时间窗口被显著拉长
  • 清理或重置环境前未取证,事后无法确认影响面与是否外泄
  • 只修复被发现的单条路径,同类变体仍可绕过,事件再次发生
  • 恢复阶段直接全量放量,未留观察窗口,二次事件缺少缓冲

数据来源与参考

  • 安全事件响应(incident response)流程在 LLM 应用中的套用;OWASP LLM02 处置建议
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌