首页/AI/提示词工程速查/模型与依赖更新后的防护复测
本包目录(290 条)
提示词基础40 条模式与框架50 条任务型写法50 条评估与迭代50 条
提示注入与防护50 条
工程化实践50 条

模型与依赖更新后的防护复测

更换模型版本、推理框架或插件后,原防护效果会变化:用固定测试集在新组合上复测拦截率与误伤率,把安全回归纳入升级流程。

提示词工程速查AI更新于 2026-10-12
触发时机模型版本切换、系统提示大改、插件增减、防护规则调整
测什么已知注入用例拦截率、正常请求误伤率、越权工具调用拦截、输出检查命中
对比方式新旧组合跑同一测试集,记录差异与样本量
门禁拦截率下降或误伤显著上升时阻止上线,或附带缓解计划与期限

复测记录模板

复测记录模板
组合: 模型 v2 + 推理框架 1.4 + 规则 v5
用例集: inj-regression-v3(120 条)
结果: 拦截 112/120(较上个版本 -3)
误伤: 2/200 正常请求
结论: 3 条失效集中于编码变体,补充归一化后复测通过

易错点

  • 升级只跑功能回归,安全回归被遗漏
  • 没有固定用例集,新旧版本结果无法对比

数据来源与参考

  • NIST AI 100-2(2024)对抗评测思路;OWASP LLM01 治理建议
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌