稳定前缀的拼接顺序
稳定前缀的拼接顺序
messages = [
{"role": "system", "content": CACHED_SYSTEM_PROMPT}, # 固定不变
{"role": "system", "content": CACHED_KB_PREFIX}, # 高复用片段
{"role": "user", "content": question}, # 变化部分后置
]时间戳、随机 id 等易变字段不要放进缓存前缀；命中率用服务端返回的统计字段核对。