首页/系统与基础设施/存储速查/存储访问时延的组成与影响因素
存储基础与选型50 条

存储访问时延的组成与影响因素

一次存储访问的时延由应用排队、文件系统与缓存、网络传输、控制器处理、后端排队与介质访问逐段累加而成。定位慢在哪一段,比换更快的设备更重要,因为长尾时延往往来自排队而不是介质本身。

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌‌​‌‌‌​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​‌‌‌​​‌​​‌‌​​​​‌​‌‌​​‌‌‌​‌‌​​‌​‌​​‌​‌‌‌‌​‌‌‌​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​‌‌‌​​‌​​‌‌​​​​‌​‌‌​​‌‌‌​‌‌​​‌​‌​​‌​‌‌​‌​‌‌​‌‌​​​‌‌​​​​‌​‌‌‌​‌​​​‌‌​​‌​‌​‌‌​‌‌‌​​‌‌​​​‌‌​‌‌‌‌​​‌​​‌​‌‌​‌​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​‌‌‌​​​​​‌‌​‌‌‌‌​‌‌‌​​‌‌​‌‌​‌​​‌​‌‌‌​‌​​​‌‌​‌​​‌​‌‌​‌‌‌‌​‌‌​‌‌‌​​​‌​‌‌‌​​‌‌​‌​​​​‌‌‌​‌​​​‌‌​‌‌​‌​‌‌​‌‌​​

时延由哪几段组成

从应用发出读写请求到拿到结果,时间被切成若干段:应用层与线程调度、系统调用与文件系统处理、页缓存命中或穿透、块层与多路径排队、网络或总线传输、存储控制器的解析与缓存处理、后端介质的寻址与排队、以及回程的数据传输与中断处理。每段单独看可能都只有几十微秒,叠加起来就是毫秒级;而当任意一段出现排队,时延会非线性上升。这就是为什么定位时延问题必须分段测量:只盯着介质规格,很容易忽略真正的排队点。尤其要区分平均时延与尾部时延,业务体验通常由百分位高位决定。

分段与常见成因

环节典型量级常见异常成因
应用与调度取决于并发模型线程争抢、同步等待、串行化设计
文件系统与缓存微秒到毫秒缓存命中率低、元数据操作密集、日志刷盘
块层与多路径微秒到毫秒队列积压、路径切换、超时重试
网络与总线微秒到毫秒拥塞、丢包重传、链路误码
控制器处理微秒到毫秒缓存不足、写策略、负载不均
后端与介质微秒到毫秒寻道、垃圾回收、重建占用、热点倾斜

基本信息

关键区分平均时延用于容量规划,尾部时延决定业务体验
来源构成固定成本(介质与协议)+ 排队成本(并发与争抢)
放大因素队列深度、写惩罚、缓存未命中、重建与迁移
测量方式主机侧与存储侧分别采集,交叉比对定位分段
优化顺序先消除排队与外溢,再考虑更换更快介质

典型使用场景

  • 业务卡顿定位:确认是数据库自身排队还是存储响应变慢
  • 验收测试:按业务读取时延分布,而不只是平均读写速率
  • 混合负载隔离:判断小块随机请求是否被大块顺序流量挤慢
  • 容量水位管理:水位升高导致垃圾回收或重建占用增加,时延随之上升
  • 架构选型:在时延目标下反推需要哪一级介质与哪一种协议
主机侧与存储侧的时间差很有价值:若主机侧时延明显高于存储侧,问题多在上游的排队、驱动或多路径;若两侧都高,则瓶颈更可能在控制器或后端介质。
重建、快照与数据迁移是可预期的时延干扰源:这些后台任务占用后端带宽与控制器资源,在业务高峰叠加会造成明显抖动。应把它们安排在低峰,并设置带宽上限。

易错点

  • 只看平均时延:长尾抖动被平均值掩盖,业务侧仍会周期性超时
  • 把时延问题全归给盘:上游排队、网络重传与缓存策略常常是主因
  • 忽略后台任务影响:重建与迁移在高峰运行,时延出现无规律的尖峰
  • 只用单一测量点:主机侧与存储侧数据不交叉比对,无法定位分段
  • 把队列加深当优化:IOPS 上升的同时时延变长,业务体验反而变差

数据来源与参考

  • SNIA 存储性能与时延相关术语资料
  • 存储厂商性能调优官方文档

整理校对:其其网ICT文档中心 · 本页地址:docs.qiqicto.com/storage/storage-latency-composition.html

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌‌​‌‌‌​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​‌‌‌​​‌​​‌‌​​​​‌​‌‌​​‌‌‌​‌‌​​‌​‌​​‌​‌‌‌‌​‌‌‌​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​‌‌‌​​‌​​‌‌​​​​‌​‌‌​​‌‌‌​‌‌​​‌​‌​​‌​‌‌​‌​‌‌​‌‌​​​‌‌​​​​‌​‌‌‌​‌​​​‌‌​​‌​‌​‌‌​‌‌‌​​‌‌​​​‌‌​‌‌‌‌​​‌​​‌​‌‌​‌​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​‌‌‌​​​​​‌‌​‌‌‌‌​‌‌‌​​‌‌​‌‌​‌​​‌​‌‌‌​‌​​​‌‌​‌​​‌​‌‌​‌‌‌‌​‌‌​‌‌‌​​​‌​‌‌‌​​‌‌​‌​​​​‌‌‌​‌​​​‌‌​‌‌​‌​‌‌​‌‌​​