容量规划要算清三件事
日志容量规划要估算三件事:每天产生多少日志、每条多大、需要保留多久。三者相乘才是存储需求,还要叠加索引与副本的开销——结构化存储通常占用原始日志量的 1.5 到 3 倍。规划要按峰值与增长率迭代,每次扩容记录基线,否则过一阵子又会重复出现磁盘告警。
基本信息
| 估算要素 | 日均条数、单条大小、副本与索引开销、留存周期 |
|---|---|
| 经验倍数 | 结构化存储通常是原始日志量的 1.5 到 3 倍 |
| 监控 | 容量使用率与增长趋势,设置阈值告警 |
| 迭代 | 按峰值与增长率定期复核并记录基线 |
典型使用场景
- 平台建设:上线前估算存储需求,避免上线即告警
- 扩容决策:按增长率预测下次扩容时间点
- 成本优化:识别噪声日志,在采集端收敛日志量
- 留存调整:合规要求变化时重新评估留存周期
- 故障预警:磁盘使用率接近阈值时提前处置
估算示例
估算示例
# 假设 20 台设备,日均 3000 万条,单条约 300 字节
# 原始日志:约 180 GB/天
# 加索引与副本(按 2 倍计):约 360 GB/天
# 留存 180 天:约 65 TB,需要按分级归档策略分担
# 按峰值与业务增长预留 30% 余量
# 每次扩容记录基线与时间点,便于复盘增长率估算要素
| 要素 | 影响 | 取值方法 |
|---|---|---|
| 日均条数 | 总量基数 | 按设备实际统计,不用估计值 |
| 单条大小 | 体积系数 | 抽样统计平均值 |
| 索引与副本 | 存储放大器 | 按平台实现与副本数计算 |
| 留存周期 | 总量倍数 | 按合规要求与检索需求确定 |
容量规划不是算一次就结束:设备数量、业务量、日志级别都会变化,建议每季度复核一次并更新基线。
日志级别对容量影响最大:把某个模块从 info 降到 warning,总量可能直接减半,调整前先用抽样统计估算效果。