Qdrant 量化配置

Qdrant 支持标量量化（int8）、乘积量化（PQ）与二值量化：量化向量常驻内存作为粗筛，原始向量可留在磁盘用于精排，用较小内存支撑更大集合。

RAG 与向量库速查AI更新于 2026-10-12

建集合时启用标量量化

client.create_collection(
    collection_name="kb_big",
    vectors_config=models.VectorParams(size=1024, distance=models.Distance.COSINE,
                                       on_disk=True),
    quantization_config=models.ScalarQuantization(
        scalar=models.ScalarQuantizationConfig(type=models.ScalarType.INT8,
                                               quantile=0.99, always_ram=True)),
)

二值量化要点

# BinaryQuantization 将每维压到 1 bit：
# - 内存占用约为原向量的 1/32，配合原始向量重排保精度
# - 适合维度较高（如 1024）的现代 embedding 模型

量化会改变分数分布：阈值、重排门限等依赖分数的逻辑需重新校准。

易错点

小集合就上量化，收益有限反而拉低召回
开启量化后未做效果对比，答案质量变化无法察觉

数据来源与参考

Qdrant 官方文档（Quantization / Binary Quantization）

继续搜索

常用关键词：3389 traceroute iptables 子网掩码 docker

‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌‌