首页/AI/大模型部署与运维速查/模型别名:对外稳定内部可换

模型别名:对外稳定内部可换

对外只暴露稳定别名(如 llm-chat),网关把别名映射到具体后端与版本;换模型、换量化、换实例组都只改映射表,客户端不动。

别名映射(示意)

别名映射(示意)
aliases:
  llm-chat: local-32b@v3
  llm-fast: local-8b@v2
# 各别名再映射到 upstream 与具体 model 配置
映射表纳入版本管理与评审:改一行影响所有调用方,变更要留记录。

易错点

  • 别名等于权重名:每次换版本都要改客户端,升级被拖慢

数据来源与参考

  • LiteLLM 官方文档:模型别名(docs.litellm.ai)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌