三类模型是训练阶段差异
基座、指令与对话模型共用同一套架构,差别在训练阶段。基座模型用自监督下一词预测训练,本质是续写器,擅长补全与风格延续,不遵守指令;指令模型在基座上做监督微调,学会按指令完成任务、跟随格式;对话模型在此基础上加入偏好对齐,擅长多轮、系统提示与拒答边界。选择取决于你需要的是续写、单轮格式跟随,还是多轮协作。
基本信息
| 基座模型 | 以续写为目标,输入什么就照着接下去 |
|---|---|
| 指令模型 | 单轮任务与格式跟随较好,多轮稳定性与边界较弱 |
| 对话模型 | 多轮、角色设定、系统提示、拒答边界最完整 |
| 提示方式 | 基座给少样本示例,指令与对话可给系统提示与任务描述 |
| 主要风险 | 基座可能照概率补全不当内容;指令模型多轮易漂移 |
| 选用方法 | 同一任务在两类模型上各跑一遍,用通过率与成本决定 |
典型使用场景
- 领域续写与风格模仿:补全文本、改写语气、生成同风格内容时基座更天然
- 结构化抽取:字段固定的单轮任务,指令模型通常够用且成本低
- 多轮助手:需要上下文理解、角色与拒答边界时选对话模型
- 继续预训练:以基座为起点注入领域语料,再自行做指令微调
- 评测基线:用基座看纯续写能力,用对话模型看对齐后的实际可用性
- 对比实验:同一任务两类模型并跑,判断差距来自能力还是提示设计
三类模型对照
| 维度 | 基座模型 | 指令模型 | 对话模型 |
|---|---|---|---|
| 训练目标 | 下一词预测 | 指令跟随微调 | 微调加偏好对齐 |
| 指令遵守 | 弱,常忽略格式要求 | 较好,单轮稳定 | 好,多轮与约束更稳 |
| 多轮上下文 | 无对话概念 | 多轮易漂移 | 针对多轮优化 |
| 系统提示 | 不适用 | 支持程度视实现 | 通常完整支持 |
| 拒答边界 | 可能补全不当内容 | 边界较弱 | 边界相对清晰 |
| 典型提示 | 少样本示例 | 任务加格式说明 | 系统提示加对话历史 |
| 成本关系 | 同规模下通常最省 | 略高 | 通常最高 |
同一任务的三种写法
同一任务的三种写法
# 基座模型:靠示例引导续写,不要写成命令
输入: 把下面句子改成正式表述。原句:这事儿明天搞不定。输出:
完成: 这件事无法在明日完成。
输入: 把下面句子改成正式表述。原句:他老是拖后腿。输出:
# 指令模型:给任务与格式约束
把括号内句子改写为正式书面语,只输出改写结果:
(他老是拖后腿)
# 对话模型:用系统提示承载长期约束
系统: 你是公文改写助手,只输出改写后的句子,不加解释。
用户: 他老是拖后腿判断差异来自能力还是提示设计,最省事的办法是做一次提示对齐实验:先给每类模型都补上同等详细的说明与示例,再比较通过率。很多「模型不行」的结论在这一步就被推翻了。
后训练阶段的名字与划分方式在厂商之间并不统一,有的把指令与对话合并为同一类产物,也有的提供独立的推理优化版本;具体命名、可用性与限制以对应厂商的官方文档为准。
基座模型按概率补全,遇到敏感前缀可能生成不当内容,也缺少拒答机制。任何面向用户的入口都不应直接暴露基座模型;确需使用时要在外层加输入过滤与输出审查。