截断策略对比
| 策略 | 做法 | 取舍 |
|---|---|---|
| 按时间滑窗 | 只保留最近 N 轮 | 简单稳定；早期约束会丢失 |
| 按重要性 | 约束、结论、未决项优先保留 | 需要标注重要度，实现更复杂 |
| 摘要替换 | 旧轮压缩成摘要 | 节省 token；存在信息损耗 |
| 规则加摘要 | 约束白名单加其余摘要 | 兼顾稳定与成本；维护两套逻辑 |
保底规则
保底规则
1 系统提示与输出契约永不裁剪
2 最近一轮完整保留
3 被更正的信息连同更正说明一起保留
4 裁剪动作记日志：裁剪段与数量本包目录（290 条）
提示词基础40 条模式与框架50 条任务型写法50 条评估与迭代50 条提示注入与防护50 条
工程化实践50 条
- 提示模板的占位符设计
- 上下文窗口的使用规划
- 提示即代码：纳入仓库管理
- 模型与 SDK 版本固定
- token 预算与分配
- OpenTelemetry GenAI 语义约定
- 生成延迟的分解度量
- 线上质量抽检
- 模板变量注入与默认值
- 提示灰度发布与回滚
- 配置外置与环境差异
- 提示与密钥分离管理
- 多轮对话的滚动摘要
- 上下文排序与位置效应
- 提示缓存的概念与收益
- 重试与指数退避
- 模型不可用时的降级
- 流式输出处理
- 请求追踪与回放调试
- 成本归因与预算告警
- 日志与数据脱敏
- 模板渲染的转义与安全
- 提示变更评审清单
- 提示版本号与兼容策略
- 功能开关与实验分流
- 开发与生产环境隔离
- 分词器与 token 估算
- 会话记忆与实体表
- 会话隔离与并发
- 超时与取消设计
- 限流与配额处理
- 批量任务的部分失败处理
- 响应缓存与语义缓存
- 长任务的异步化
- 审计日志字段设计
- 用户反馈收集与回流
- LLM 功能的值班手册
- 模板注册表与命名规范
- 提示变更记录的写法
- 提示资产目录与元数据
- 历史截断策略对比
- 调用幂等性设计
- 回退链设计
- 并发控制与排队
- 数据保留与清理策略
- 依赖固定与升级窗口
- 模板片段复用与组合
- 提示静态检查规则
- 配置优先级与覆盖规则
- 会话恢复与持久化
历史截断策略对比
超出预算时的删减方式影响体验：按时间滑窗、按重要性保留、摘要替换各有取舍；无论哪种都要保住系统约束与最近一轮。
易错点
- 只按时间滑窗，重要约束被静默裁掉
- 裁剪不记日志，问题复现时无法定位丢失片段
数据来源与参考
- 对话上下文管理通用实践；滑动窗口（sliding window）模式