首页/AI/RAG 与向量库速查/向量库容量与内存估算
本包目录(229 条)
架构与流程30 条解析与切分33 条Embedding 与检索50 条
向量数据库49 条
重排与生成32 条评估与优化35 条

向量库容量与内存估算

容量估算按“向量数 × 维度 × 每维字节数 × 副本数 + 索引开销”逐项加总:float32 是基线,SQ8 约四分之一,PQ 与二进制量化再降;索引结构(HNSW 图边)也要计入内存。

RAG 与向量库速查AI更新于 2026-10-12

估算示例(1000 万条 × 1024 维)

估算示例(1000 万条 × 1024 维)
float32 原始:10^7 × 1024 × 4 B ≈ 40 GB
SQ8 量化:   ≈ 10 GB
PQ(m=64):   ≈ 0.64 GB(精度损失需评估)
元数据/payload:按实际字段另计
HNSW 图结构:与 M、节点数相关,通常需预留可观比例
先按“原始向量可放下”与“量化后能放下”两档做方案,再决定是否上磁盘索引或分片。

易错点

  • 只算向量本体不算索引结构与副本,实际内存超出机器容量
  • 规划按当前数据量,未预留后续年度增长的空间

数据来源与参考

  • FAISS wiki(量化与内存)
  • Milvus 官方文档(容量规划参考)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌