首页/AI/AI 应用速查/向量存储成本:内存才是大头

向量存储成本:内存才是大头

向量库成本主要不是磁盘而是内存:HNSW 图索引常驻内存,768-1536 维向量加图结构,千万级就是几十 GB。用副本数、量化压缩与生命周期策略控制。

AI 应用速查AI更新于 2026-10-12
内存估算向量数 × 维度 × 4 字节 ×(1 + 图开销系数)
压缩PQ/int8 量化可降内存数倍,召回略降
副本高可用副本让内存成本成倍
生命周期过期内容及时删除,冷数据降副本或落盘

内存量级估算(示意)

内存量级估算(示意)
1000 万 chunk × 1024 维 × 4B ≈ 40 GB(裸向量)
HNSW 图结构再叠加可观开销;再加 1 副本近乎翻倍
=> 规划机器规格前先按规模算:宁可先小规模验证,再扩集群
定期盘点“只增不减”的集合:被删除业务留下的孤儿集合是常年陪跑的固定支出。

易错点

  • 只按磁盘容量选机器,上线后 OOM
  • 副本与索引双高开销,预算按裸向量算

数据来源与参考

  • 向量库容量规划实践;HNSW 内存开销讨论

相关工具

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌