上下文压缩是什么
上下文不是越长越好，原因有三：输入按 token 线性计费，长上下文成本直接叠加；无关内容稀释注意力，越长越容易跑偏；部分厂商对超长上下文设置更高单价档（以官网为准）。压缩手段包括去重、抽取式筛选、结构化摘要与只送相关段落，目标是用最少的 token 承载任务所需信息。底线是关键数字、条款与实体不能被压掉，尤其是否定词与限定语——「仅」「不超过」这类词删掉就改变了含义。
基本信息
| 计费特点 | 输入按 token 线性计费，长上下文可能进入更高价档 |
|---|---|
| 质量影响 | 无关内容稀释注意力，越长越容易偏离主题 |
| 常用手段 | 去重、抽取式筛选、结构化摘要、只送相关段落 |
| 压缩底线 | 数字、条款、实体与限定词不可丢 |
| 验收方式 | 压缩后用同一评测集回归对比 |
| 配合手段 | 与检索、缓存、父子块一起控制总输入量 |
典型使用场景
- 长文档问答：只送命中段落而不是整篇材料
- 多轮对话：把早期内容压成结构化摘要
- 多文档汇总：去掉重复模板段落，保留差异信息
- 成本治理：对输入 token 占比最高的功能先做压缩
- 上下文预算管理：为输出与工具回包腾出空间
压缩提示词模板
压缩提示词模板
把下面的内容压缩到 300 字以内，保留：
- 所有数字、日期、金额、条款编号；
- 因果关系与限定条件（只 / 仅 / 不超过 / 除外）；
- 主体名称与责任归属。
不要概括成形容词，信息密度优先：原句能留就留，不要改写同义反复。
{{原文}}
# 压缩后必须回归评测：任务成功率不掉才算压缩成功
# 压缩稿不要当原文引用，引用要回到原始出处压缩手段对比
| 手段 | 做法 | 代价 |
|---|---|---|
| 去重 | 合并重复段落与模板化文字 | 几乎无成本，应优先做 |
| 抽取式筛选 | 只保留与问题相关的段落 | 效果依赖检索质量 |
| 结构化摘要 | 压成字段与要点 | 有信息损失，需回归评测 |
| 分层压缩 | 先块内压缩再全局汇总 | 调用次数增加，成本上升 |
压缩前后要用同一评测集对比：成功率不掉才算赢；掉点了说明压过了头，通常是被删掉的限定条件在起作用。
压缩比追求极端更危险：把长文档压到十分之一，数字往往还在，隐含条件与例外条款最先丢失，反而更难排查。