读盘测速与缓存观察
读盘测速与缓存观察
# 顺序读测速(按实际模型文件大小调整)
dd if=/models/weights.safetensors of=/dev/null bs=1M status=progress
free -h # 页缓存占用
cat /proc/meminfo | grep -i cached加载慢先分流:是读盘慢还是拷贝到显存慢,用 iostat 与 nvidia-smi 同时观察可分辨。
容器场景避免把模型放网络存储上:带宽与延迟波动会直接放大冷启动时间。