首页/AI/RAG 与向量库速查/RAG 成本构成与估算方法
本包目录(229 条)

RAG 成本构成与估算方法

成本分三块:索引期 Embedding 与算力、向量库存储、在线检索与生成的调用费;先按文档规模与日问答量各算一笔账,再决定模型档位与缓存策略。

RAG 与向量库速查AI更新于 2026-10-12

估算示例(数字仅示意方法)

估算示例(数字仅示意方法)
索引:2 万页 × 约 800 token/页 = 1600 万 token
  以 text-embedding-3-small 的量级单价计 → 约 0.3 美元级(一次性)
在线:日 1 万问 ×(检索 embedding + 生成 各约 1500 token)
  主要成本在生成而非检索
存储:100 万条 × 768 维 × 4 字节 ≈ 2.9 GiB(float32)
  • 控制成本的两个抓手:缓存命中率、检索与重排的候选数量
  • 索引一次性成本通常低于长期在线生成成本,不建议为省索引费牺牲切分质量
示例数字仅演示估算方法,实际单价以所用厂商当期定价为准。

易错点

  • 只算生成费不算嵌入与重排调用,上线后账单超预期
  • 频繁全量重建索引造成双倍费用,说明增量更新策略缺失

数据来源与参考

  • OpenAI 官方定价页(platform.openai.com/pricing)
  • Milvus 官方文档(向量存储容量说明)
​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌