- 参数量与激活参数(MoE 需分开看)
- 上下文长度与长上下文扩展说明
- 许可证与商用限制
- 训练数据的语言分布与目标场景
- 推荐推理参数(temperature 等)与提示模板
- 官方量化版本(AWQ/GPTQ/GGUF)是否提供
下载后本地查看配置
下载后本地查看配置
head -40 models/<模型>/config.json
cat models/<模型>/generation_config.json 2>/dev/nullgeneration_config.json 里的推荐采样参数是质量复现的起点,先用它做基线再调参。