按模型名分流
网关读取请求里的模型字段，把流量路由到对应的实例组：不同模型、不同量化方案或不同版本各自成组，对外保持统一入口与别名表。别名表是唯一事实来源，改动要走评审，避免一次拼写错误把请求送到错误的后端。
基本信息
| 适用平台 | 自托管推理服务的网关层 |
|---|---|
| 路由依据 | 请求体里的模型字段 |
| 实现方式 | 应用网关解析请求体，或网关侧做简单映射 |
| 管理要求 | 别名表纳入版本管理并配冒烟校验 |
路由思路
路由思路
网关解析请求体模型字段 → 查别名与路由表 → 转发对应上游
（简单映射可在网关侧完成，复杂的请求体解析放应用网关）典型使用场景
- 多模型共存：统一入口，按模型名分流
- 量化版本并行：全精度与量化版本各成一组，逐步切换
- 版本验证：别名指向新实例组时可以做小流量验证
- 容量隔离：按实例组分别限流，避免互相影响
- 冒烟校验：映射表变更后逐个别名跑一条最小请求
环节与常见错误
| 环节 | 做法 | 常见错误 |
|---|---|---|
| 别名定义 | 对外只暴露稳定别名 | 客户端写底座名导致找不到模型 |
| 路由解析 | 按模型字段查表转发 | 解析失败时静默落到默认组 |
| 默认组 | 显式配置而不是隐式兜底 | 未命中时被转发到错误的实例 |
别名表纳入版本管理：改动走评审，避免拼写错误把请求送到错误后端。
冒烟用例：每个别名准备一份最小请求样例，映射表变更后逐个别名执行一次，确认路由落点与预期后端一致。
未命中的处理要显式：直接返回明确错误，好过静默落到默认组，后者只会把问题藏起来。