| 步骤 | 能力→合规→成本延迟→工程性,逐层过滤 |
|---|---|
| 产出 | 主模型 + 备用模型 + 路由规则 + 评测集 |
| 评测 | 20-50 条业务样本,固定参数盲测 |
| 降级 | 供应商级容灾:主模型故障自动切换 |
网关路由配置示例(概念)
网关路由配置示例(概念)
rules:
default: small-model
complex_reasoning: flagship-reasoning-model
long_document: long-context-model
sensitive_data: self-hosted-model
fallback: backup-vendor-model模型换代节奏快:把模型标识做成配置项(不是硬编码),每季度用评测集复测一次选型。