本地渲染自查
本地渲染自查
from transformers import AutoTokenizer
tok = AutoTokenizer.from_pretrained("<模型路径>")
text = tok.apply_chat_template(
[{"role": "user", "content": "你好"}],
tokenize=False,
add_generation_prompt=True,
)
print(repr(text))核对点：角色标记、分隔符、BOS/EOS 与训练格式是否一致；服务端（vLLM 等）同样按模型自带模板渲染，模板缺失时需要显式配置。