首页/AI/提示词工程速查/敏感操作的人工审批
提示注入与防护50 条

敏感操作的人工审批

对不可逆或高影响动作设置人工审批:审批请求展示动作、目标、参数来源与触发链,人确认后才执行。

提示词工程速查AI更新于 2026-10-12

审批流设计要点

审批流设计要点
1) 触发条件:金额阈值、新增收件人、删除类操作、权限变更
2) 展示信息:动作、目标对象、参数、触发来源(用户还是内容)
3) 超时策略:默认拒绝(deny by default)
4) 留痕:审批人、时间、决定与理由入库
原则默认拒绝;无响应不放行
来源让审批人看到参数是否由外部内容诱导产生
疲劳审批泛滥会被随手通过;按影响面收敛触发条件

易错点

  • 审批信息不含来源时,人无法识别注入诱导,容易照批
  • 触发条件过宽会造成审批疲劳,反而降低安全性

数据来源与参考

  • 人机协同审批(human-in-the-loop)在代理安全中的实践;OWASP LLM06 缓解建议
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌