骨架并行生成的思路
骨架并行生成(Skeleton-of-Thought,Ning et al., 2023)分两阶段:先让模型只产出答案骨架(各节要点标题,不展开),再对每一节单独发起生成,各节之间可以并行。好处是总耗时接近单节生成,单节失败只重试该节;代价是节与节的转承需要额外处理。适合可拆成独立小块的内容,不适合强连贯的叙事与论证。
基本信息
| 两阶段 | 先出骨架,再逐节展开 |
|---|---|
| 收益 | 各节并发生成,总耗时接近单节;失败可局部重试 |
| 适合 | 指南、清单、文章初稿等结构松散可分块的内容 |
| 注意 | 节与节需要连贯转承时,拼接处要二次润色 |
典型使用场景
- 长指南初稿:先定小节标题,再并行填内容
- 批量文档生成:同一骨架套用到多个对象,逐节并行产出
- 清单类内容:各条目独立无依赖,适合并行展开
- 多语言版本:骨架固定后,各语言版本可并行生成
- 成本优化:把长文生成拆成并行小节,缩短端到端等待时间
两阶段模板
两阶段模板
阶段一:只输出骨架(5-8 个要点的标题列表,不展开)。
阶段二:对每个要点单独调用(可并行):输入 = 骨架 + 本节编号与标题,
输出该节正文;最后按骨架拼接全文。
# 骨架里写清各节边界与字数,避免各节内容重复
# 每个调用都要带上骨架,让各节知道自己在整体中的位置
# 只需要一处转承:第一节开头与最后一节收尾人工润色
# 单节失败只重试该节,不要整篇重生成两阶段检查点
| 阶段 | 产物 | 检查点 |
|---|---|---|
| 骨架 | 5-8 个标题与边界说明 | 是否有重叠、覆盖是否完整 |
| 展开 | 各节正文 | 是否越界写到别节内容 |
| 拼接 | 完整文档 | 转承是否自然、有无重复段 |
| 验收 | 最终稿 | 术语与口径是否全篇一致 |
各节调用之间不共享上下文时会重复或互相矛盾;骨架里写清各节边界与不写什么,能明显减少这类问题。
对强连贯性内容(叙事、论证、递进说明)并行拼接效果差,慎用;这类内容更适合单链生成。