首页/AI/RAG 与向量库速查/会话记忆与上下文预算

会话记忆与上下文预算

多轮场景中历史对话也要占预算:保留最近若干轮原文、更早轮次压缩为摘要;摘要与检索片段争抢窗口时,优先保证本轮检索片段与系统约束。

RAG 与向量库速查AI更新于 2026-10-12

历史裁剪策略

历史裁剪策略
recent = turns[-4:]                          # 最近 4 轮原文
older_summary = summarize(turns[:-4])       # 更早轮摘要
messages = [{"role": "system", "content": system_prompt},
            {"role": "system", "content": "历史摘要:" + older_summary},
            *recent,
            {"role": "user", "content": question}]
摘要本身也会丢信息:对依赖精确引用编号的场景,摘要中要保留编号映射。

易错点

  • 历史无限增长,检索片段被挤出窗口后答案变差
  • 摘要丢失编号映射,多轮引用无法回溯

数据来源与参考

  • OpenAI 官方文档(对话状态管理)
  • LangChain 官方文档(ConversationSummaryMemory)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌