首页/AI/提示词工程速查/防御规则的维护与版本化
提示注入与防护50 条

防御规则的维护与版本化

检测正则、敏感模式与白名单都会失效或误伤:把规则当代码管理——版本库、评审、变更记录、回归测试与回滚路径,规则变更同样要留痕。

提示词工程速查AI更新于 2026-10-12
为什么版本化规则静默更新会导致行为漂移;出问题需要能定位到某次变更
基线信息每条规则记录目的、正例与反例样本、负责人、上线时间
流程提案 → 样本验证 → 评审 → 灰度 → 全量 → 记录;紧急变更后补评审
回归固定样本集上跑新旧规则对比,观察拦截率与误伤率变化

规则条目模板

规则条目模板
id: inj-style-014
目的: 检测忽略以上指令类措辞
正例: 3 条(含常见变体)
反例: 2 条(正常业务表述)
变更: v3 收紧阈值;作者与评审人签名
回滚: 保留 v2 规则文件,一处开关即可切回

易错点

  • 热更新规则不留记录,误伤投诉时无法回溯到具体变更
  • 规则缺少正反例样本,收紧阈值后误杀正常请求

数据来源与参考

  • NIST SP 800-40 补丁与变更管理思路;配置即代码(configuration as code)实践
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌