量化方式对比
| 方式 | 每维位数 | 相对内存 | 代价 |
|---|---|---|---|
| float32 | 32 | 1x | 基线 |
| SQ8 | 8 | 约 1/4 | 精度轻微下降,多数场景可用 |
| SQ4 | 4 | 约 1/8 | 精度下降更明显 |
| BQ | 1 | 约 1/32 | 需要重排补偿召回 |
Qdrant 量化配置
Qdrant 量化配置
PUT /collections/kb
{
"vectors": {"size": 1024, "distance": "Cosine"},
"quantization_config": {"scalar": {"type": "int8", "always_ram": true}}
}量化通常与原始向量共存:先用量化做粗筛,再用 float 向量精排。