对比
| 维度 | 提示注入 | 越狱 |
|---|---|---|
| 目标 | 让系统执行内容中的指令 | 让模型突破安全策略 |
| 入口 | 数据通道（检索/工具/文件） | 对话输入 |
| 影响 | 越权操作、数据外泄 | 违规内容输出 |
| 主要防线 | 隔离、权限、审批 | 安全策略与拒答机制 |
复合场景提醒
复合场景提醒
注入内容可能同时尝试越狱：
评测与监控要对两个目标分别统计成功率，防一并漏测。注入与越狱的区别
越狱是绕过安全策略（诱导输出违规内容），注入是打乱指令流（把内容当命令执行）；两者应对策略不同，要分开评估。
易错点
- 用防注入方法（隔离数据）应对越狱不匹配；两套目标要分开评估
- 把两者混为一个指标会掩盖真实短板；分别统计
数据来源与参考
- Jailbroken: How Does LLM Safety Training Fail?（Wei et al., 2023）；OWASP LLM01 提示注入