Qwen 系列是什么
通义千问（Qwen）是阿里云的大模型家族，同时存在两种交付形态：云端 API 按 qwen-max、qwen-plus、qwen-turbo 等档位提供能力分层，开源侧则按 Qwen2.5、Qwen3、Qwen-VL、Qwen3-Coder 等系列发布权重，可在自有硬件上部署。云端走 DashScope，提供 OpenAI 兼容模式，改动 base_url 与模型名即可复用现有 SDK。开源与云端同名但并非同一交付物，能力与版本要分别对照官方列表。
基本信息
| 厂商 | 阿里云（通义千问 / Qwen） |
|---|---|
| 云端档位 | qwen-max、qwen-plus、qwen-turbo，另有长上下文与视觉等专用型号 |
| 接入点 | DashScope，兼容模式路径 /compatible-mode/v1 |
| 开源系列 | Qwen2.5、Qwen3、Qwen-VL、Qwen3-Coder 等，含多种尺寸 |
| 部署工具 | vLLM、Ollama、SGLang 等常见推理引擎 |
| 相关能力 | 文本生成、视觉理解、代码、向量化与重排 |
云端档位与用法
| 档位 | 定位 | 典型任务 |
|---|---|---|
| qwen-max | 旗舰，能力上限最高 | 复杂推理、长文分析、质量优先场景 |
| qwen-plus | 均衡主力 | 日常问答、RAG 生成、内容生产 |
| qwen-turbo | 低成本高并发 | 分类、抽取、打标、简单改写 |
| 专用型号 | 长上下文、视觉理解、代码等 | 按业务形态按需选用 |
典型使用场景
- 中文业务系统接入：客服、工单分类、文档问答等高频场景
- 私有化交付：用开源权重在内网部署，满足数据不出域要求
- 视觉理解：票据、截图、表单结构化，走视觉型号
- 代码助手：生成、补全与审查，可选代码专用型号
- 向量检索链路：向量化与重排能力配合自有知识库
兼容模式最小调用
兼容模式最小调用
curl -s https://dashscope.aliyuncs.com/compatible-mode/v1/chat/completions -H "Authorization: Bearer $DASHSCOPE_API_KEY" -H "Content-Type: application/json" -d '{"model":"qwen-plus","messages":[{"role":"user","content":"你好"}]}' # 兼容模式入口
# 原生 SDK 走 DashScope 官方路径与参数，和兼容模式不通用
# 复用 OpenAI SDK 时把 base_url 设为 https://dashscope.aliyuncs.com/compatible-mode/v1
# 具体可用模型名以控制台模型列表为准，不同地域可用型号可能不同云端 API 与本地开源的关系
| 维度 | 云端 API | 本地开源权重 |
|---|---|---|
| 能力上限 | 旗舰档通常更强 | 同尺寸下与云端版本不等价 |
| 数据流向 | 出域，依赖厂商条款 | 留在内网 |
| 成本形态 | 按量付费，弹性 | 硬件与运维自担 |
| 版本控制 | 厂商迭代，别名可能滚动 | 权重固定，行为可复现 |
| 运维 | 无需维护 | 部署、扩容、监控自理 |
本地起一个开源模型
本地起一个开源模型
ollama run qwen3 # 个人试用：一行命令拉取并对话
vllm serve Qwen/Qwen3-8B --port 8000 # 生产服务：OpenAI 兼容端点
curl -s http://localhost:8000/v1/chat/completions -H "Content-Type: application/json" -d '{"model":"Qwen/Qwen3-8B","messages":[{"role":"user","content":"你好"}]}'
# 显存不足时先降尺寸或用量化版本，再考虑多卡选型与迁移提示
- 先按任务定档位：高频轻任务用小档，难任务才升档，别一律用旗舰
- 迁移到兼容模式时逐项核对参数与返回字段，工具调用与多模态结构尤其要测
- 本地部署前先估算显存与并发，留出 KV 缓存空间
- 云端与本地混跑时统一网关协议，切换供应商不动业务代码
常见调用形态
| 需求 | 入口形态 | 要点 |
|---|---|---|
| 文本对话 | 兼容模式的对话补全路径 | 最通用入口，迁移成本最低 |
| 视觉理解 | 视觉专用型号，内容传图片块 | 图片按分辨率折算 token，成本要提前估 |
| 向量化 | 向量模型接口，输入支持批量文本 | 维度与单批条数上限按官方文档确认 |
| 重排 | 重排模型对候选片段打分 | 常与向量召回配合，提升最终精度 |
| 长文本 | 长上下文专用型号 | 注意单次计费与有效上下文的实际差距 |
兼容模式覆盖常用对话接口，但平台特有功能（如部分原生参数与专用模型入口）只在官方 SDK 路径上提供，功能需求复杂的项目要提前确认。
不要把开源 Qwen 与云端旗舰档当成同一能力：参数规模、训练数据与对齐方式都不同，替换前必须用业务数据做质量评测。