首页/AI/提示词工程速查/提示注入的基本概念
提示注入与防护50 条

提示注入的基本概念

提示注入:不可信内容里夹带的指令被模型当作任务执行;它利用的是“模型无法原生区分数据与指令”,属于系统设计问题。

提示词工程速查AI更新于 2026-10-12
本质输入通道里内容与指令混流,模型按语言模式统一解读
分类直接注入(用户自己输入)与间接注入(第三方内容夹带)
定位需要隔离、权限与审查手段组合应对,而非单点修复

概念区分速记

概念区分速记
提示注入:内容里藏指令 → 影响模型行为
越狱:绕过安全策略 → 输出受限内容
两者可叠加,但防护手段不同(前者靠架构隔离,后者靠安全策略)

易错点

  • 把提示注入当成“非法字符过滤”问题会漏掉语义层面的注入
  • 承诺“彻底消除”不现实;目标是降低成功率与收窄影响面

数据来源与参考

  • Simon Willison(2022)提出 prompt injection 概念;OWASP LLM Top 10(2025):LLM01 提示注入
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌