首页/AI/提示词工程速查/按复杂度选择推理模式
模式与框架50 条

按复杂度选择推理模式

对问题先做难度判断:简单问题直接答(省 token),复杂问题才启用思维链与验证;兼顾质量与成本。

提示词工程速查AI更新于 2026-10-13

按难度选推理模式

复杂提示方法并不是对所有难度都更优:简单问题走长链推理只会增加成本与出错机会。做法是先用一次轻量判断分难度,简单问题直接作答,复杂问题(多步推理、需要权衡)才启用分步推理与验证。两套流程各自写成独立提示并分别评估,避免改了一边导致另一边行为漂移。

基本信息

判断输出简单 / 复杂,仅一个词
简单流程直接作答,不展开推理
复杂流程先分步推理再给结论
实现两套提示 + 规则或轻量调用做路由
收益简单流量不付额外推理成本,延迟与费用同时下降

典型使用场景

  • 客服问答:常规查询直接答,涉及多方权衡的才走推理链路
  • 数据核对:单值比对直接判,跨表核对走分步流程
  • 代码问答:解释单行语法直接答,架构取舍走推理流程
  • 批量处理:按难度分流,控制整体成本与响应时间
  • 模型选择:简单请求用小模型,复杂请求用大模型

路由提示片段

路由提示片段
先判断问题复杂度(简单 / 复杂),只输出一个词:
- 简单:单步事实或一次计算,直接作答
- 复杂:多步推理或需要权衡,走「先分步推理再结论」流程
# 判定标准要可操作:给出 1-2 个正反例子
# 只输出一个词,便于程序直接分支
# 两套流程分别维护与评估,避免互相影响
# 监控简单/复杂占比,占比异常说明判定标准漂了

两类流程对照

维度简单流程复杂流程
适用单步事实、一次计算多步推理、需要权衡
输出结论 + 依据片段分步推理 + 结论 + 复核
成本低,一次调用高,分步与验证多次调用
评估准确率与格式合规率准确率、推理步骤质量、成本
「简单/复杂」的判定标准不写清会让路由不稳定;补 1-2 个判定例子能明显降低误判率。
两套提示要分别维护与评估:复杂流程改动后若共用同一份评估集,简单流程的行为漂移不易被发现。

易错点

  • 判定标准不写清,相似问题被分到不同流程,输出质量与延迟都不稳定
  • 简单问题也走复杂流程,成本与延迟成倍增加,而质量提升有限
  • 复杂问题被误判为简单,直接作答导致漏掉必要推理,错误率上升
  • 两套流程共用一份评估集,改动其中一套后另一套的退化无人察觉

数据来源与参考

  • Complexity-Based Prompting for Multi-step Reasoning(Fu et al., ICLR 2023)相关思路
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌