| 本质 | 输入通道里内容与指令混流,模型按语言模式统一解读 |
|---|---|
| 分类 | 直接注入(用户自己输入)与间接注入(第三方内容夹带) |
| 定位 | 需要隔离、权限与审查手段组合应对,而非单点修复 |
概念区分速记
概念区分速记
提示注入:内容里藏指令 → 影响模型行为
越狱:绕过安全策略 → 输出受限内容
两者可叠加,但防护手段不同(前者靠架构隔离,后者靠安全策略)提示注入:不可信内容里夹带的指令被模型当作任务执行;它利用的是“模型无法原生区分数据与指令”,属于系统设计问题。
| 本质 | 输入通道里内容与指令混流,模型按语言模式统一解读 |
|---|---|
| 分类 | 直接注入(用户自己输入)与间接注入(第三方内容夹带) |
| 定位 | 需要隔离、权限与审查手段组合应对,而非单点修复 |
提示注入:内容里藏指令 → 影响模型行为
越狱:绕过安全策略 → 输出受限内容
两者可叠加,但防护手段不同(前者靠架构隔离,后者靠安全策略)