查看与覆盖（示意）
查看与覆盖（示意）
grep -A5 rope_scaling <模型目录>/config.json
vllm serve <模型路径> --rope-scaling '{"rope_type": "dynamic", "factor": 2.0}'
# 键名与支持类型以所用版本文档为准扩窗后重点测检索与长文问答：位置外推的质量下降往往只在这些任务上暴露。
RoPE 位置缩放：扩展上下文窗口
通过 RoPE 缩放（线性、NTK、YaRN 等）拉长模型可用上下文：需要模型配置与推理栈同时支持，属于「扩窗」而非训练时的原生窗口，质量要专门评测。
易错点
- 只改配置就宣称支持长文：能跑通不等于能用好，用检索类用例验收
数据来源与参考
- Hugging Face RoPE 文档（huggingface.co/docs/transformers）
- vLLM 官方文档：上下文扩展（docs.vllm.ai）