首页/AI/RAG 与向量库速查/Lost in the Middle 与上下文排序
本包目录(229 条)

Lost in the Middle 与上下文排序

长上下文模型对开头与结尾的信息更敏感,中间位置容易被忽略:把高相关片段放在首尾、或减少条数并用明确编号,可缓解「检索到了但没被用上」。

RAG 与向量库速查AI更新于 2026-10-12

重排后排序策略

重排后排序策略
ranked = rerank(query, candidates, top_n=8)
# 方案一:高相关放最前
ordered = ranked
# 方案二:两端强相关、中间弱相关(示例按分数交错)
# first, last = ranked[0], ranked[1]
# ordered = [first] + ranked[2:] + [last]   # 需结合模型实测选择
缓解手段要与评测一起验证:排序策略的效果因模型与提示词模板而异。

易错点

  • 把相关片段全塞中间位置,模型回答引用仍停留在开头片段
  • 条数减少但未验证答案完整性,出现漏答

数据来源与参考

  • Liu et al., Lost in the Middle: How Language Models Use Long Contexts (arXiv:2307.03172)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌