选型需要触发条件
选型不是一次性决定。把「什么情况下要重新选型」写成清单,能避免两种坏结果:一种出了问题才临时拍脑袋换模型,另一种是模型与业务已经错配很久却没人发现。触发条件通常来自四个方向:质量回归、成本与延迟结构变化、新能力需求、外部约束变化(合规要求、厂商路线、规模量级)。
基本信息
| 质量类 | 固定集通过率连续下滑、集中投诉出现、解析失败率上升 |
|---|---|
| 成本类 | 单位成本突破预算比例、用量分布明显变化 |
| 性能类 | 延迟 SLO 连续多周期不达标、超时率上升 |
| 能力类 | 新增多模态、工具调用、长上下文或跨语种需求 |
| 外部类 | 合规要求变化、厂商下线或路线调整、量级跃迁 |
| 决策产出 | 要么维持现状并记录依据,要么立项评估候选 |
典型使用场景
- 季度评审:按清单过一遍,确认没有未处理的错配
- 投诉集中出现:先判断是能力问题还是提示、检索与解析问题
- 新功能立项:先确认现有模型能否覆盖新能力需求,再决定是否换型
- 成本异常:用量或单位成本偏离基线时触发重算与重新选型
- 合规变更:数据出境或审计要求变化时重新评估部署形态
- 规模跃迁:请求量翻倍后重新审视档位分配与限流策略
触发信号与处置
| 触发信号 | 判定口径 | 动作 |
|---|---|---|
| 质量回归 | 固定集通过率连续两个周期下降 | 先排查提示与 SDK,再评估候选模型 |
| 投诉集中 | 同类问题一周内重复出现且可复现 | 用同场景样本复现,定位环节 |
| 成本越线 | 单位成本超出预算比例并持续 | 重算成本模型,评估档位与缓存策略 |
| 延迟不达标 | p95 连续多周期超过目标值 | 评估更小档位、批处理或区域部署 |
| 新能力需求 | 现有模型不支持或表现不达标 | 立项对比候选,含推理优化版本 |
| 合规变化 | 数据或审计要求更新 | 重新评估部署形态与数据流向 |
| 厂商路线变化 | 下线公告或默认版本变更 | 启动迁移清单并按清单执行 |
| 量级跃迁 | 请求量或输入长度大幅增长 | 重算容量、配额与限流设计 |
触发器清单
触发器清单
# 重新选型触发清单:每项写明判定口径与记录位置
# 1 质量:固定集通过率两个周期连续下降,或高风险场景出现可复现失分
# 2 稳定性:同一输入多次运行的一致率明显下降
# 3 成本:单位成本超预算比例,或输出长度分布整体上移
# 4 延迟:p95 与超时率连续多周期不达标
# 5 能力缺口:出现无覆盖场景(多模态、工具调用、长上下文、新语种)
# 6 合规:数据驻留、审计或留存要求变更
# 7 外部:收到弃用公告或默认版本静默变更
# 8 规模:请求量或输入长度较基线显著增长
# 每项注明:判定数据来源、复核人、上次复核日期触发不等于立即更换。清单的作用是把决策变成有依据的选择:可以维持现状,但要写下依据与观察期;也可以只调整档位分配,把贵模型留给高风险场景,而不做整体替换。
质量类触发要按顺序排查:提示词与解析、检索质量、SDK 与网关配置,最后才是模型本身。跳过前三步直接换模型,常见结果是成本上升而问题依旧。
不要只用投诉量当触发信号。投诉依赖用户是否愿意反馈,静默的错误会在数据里留下痕迹——解析失败率、重试率与人工修正率往往更早暴露问题。