首页/AI/AI 应用速查/越狱防护:不靠提示词保密
本包目录(159 条)

越狱防护:不靠提示词保密

越狱通过角色扮演、编码混淆、多轮铺垫绕过安全策略;防护要分层:输入侧检测、系统提示最小化秘密、输出侧过滤、敏感能力审计,并维护红队用例回归集。

AI 应用速查AI更新于 2026-10-12
常见手法角色扮演(DAN 类)、编码/小语种绕过、多轮铺垫、分步拆解
输入侧分类器识别越狱模板与编码混淆
系统侧敏感规则不放进可被套取的提示词,权限与内容策略由代码执行
回归红队用例集持续扩充,每次模型/提示词变更回归

防护层次(示意)

防护层次(示意)
第一层 输入分类器:越狱模板/混淆编码 → 拦截或降权
第二层 系统提示:只写必要信息;把硬规则落到代码(工具白名单、额度)
第三层 输出过滤:敏感内容分类器,命中改写或拒答
第四层 审计+红队:拦截留痕;红队集版本化回归
“请勿泄露系统提示”这类话术不构成防护:系统提示要有“泄露也无所谓”的假设来设计。

易错点

  • 把安全策略只写在 system prompt 里,靠保密当防线
  • 没有越狱回归集,改版后防线悄悄破洞

数据来源与参考

  • OWASP LLM Top 10(LLM01/LLM07);越狱攻防研究实践

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌