两道闸门示例
两道闸门示例
输入闸门：判断请求是否属于服务范围且无危险指令 → 输出 allow / block(原因)
主流程：正常处理
输出闸门：检查是否包含敏感字段、是否越界承诺 → 输出 pass / rewrite(建议)| 实现 | 闸门可用小模型分类器、规则引擎或提示加模型判定 |
|---|---|
| 成本 | 每请求增加 1-2 次轻量判定，比事后处理风险便宜 |
| 参照 | 输入输出双向审查的模型化实现（如 Llama Guard 思路） |
本包目录（290 条）
提示词基础40 条
模式与框架50 条
- 思维链提示（Chain-of-Thought）
- Few-shot 少样本示例提示
- 零样本思维链（Let's think step by step）
- ReAct 推理与行动交替模式
- Zero-shot 零样本提示
- 检索增强提示写法（RAG 提示）
- 少样本思维链（示例带推理）
- 自洽性投票（Self-Consistency）
- 提示链（Prompt Chaining）
- 由易到难分解（Least-to-Most）
- 函数调用与参数 Schema
- 自我精修（Self-Refine）
- 推理与答案分区输出
- 程序化思考（Program-of-Thought / PAL）
- 工具调用提示结构（Toolformer 思路）
- 先计划再求解（Plan-and-Solve）
- 分块处理模式（Map-Reduce）
- 草稿纸模式（Scratchpad）
- 验证链（Chain-of-Verification, CoVe）
- 反思循环（Reflexion）
- 思维树（Tree of Thoughts）
- 路由分发模式（Router）
- 退一步抽象（Step-Back Prompting）
- 查询改写提示（Rewrite-Retrieve-Read）
- 自我提问（Self-Ask）
- 引用锚定（带出处作答）
- 正反例对比提示
- 前置门卫模式（输入输出检查）
- 骨架并行生成（Skeleton-of-Thought）
- 多角色评审（Role Ensemble）
- 连续分解问答（Successive Prompting）
- 按复杂度选择推理模式
- 输出预填（Prefill / Priming）
- 检索与推理交替（IRCoT）
- 多稿优选（Best-of-N）
- 指令复述（Instruction Repetition）
- 假设文档检索（HyDE 思路）
- 多智能体辩论（Multiagent Debate）
- 推理预算控制（思考长度）
- 先生成背景知识再作答
- 事前验尸（Pre-mortem）
- 动态示例选择（按相似度挑示例）
- 反方审查（Devil's Advocate）
- 类比提示（自生成类比示例）
- 元提示（Meta-Prompting）
- 自动提示生成与筛选（APE）
- 自动构造思维链示例（Auto-CoT）
- 密度链摘要（Chain of Density）
- 元提示优化（OPRO）
- 复述与作答（Rephrase and Respond）
前置门卫模式（输入输出检查）
在正式处理前后各加一道轻量判定：输入先判相关性/安全性，输出再判合规与格式；把风险挡在主流程之外。
易错点
- 只做输入检查时，模型仍可能产出越界内容；输出侧检查不可省
- 闸门规则过严会误伤正常请求，用抽样统计误杀率并调整阈值
数据来源与参考
- Llama Guard: LLM-based Input-Output Safeguard（Inan et al., 2023）