首页/系统与基础设施/存储速查/NVMe over Fabrics 概念与架构
SAN 与光纤通道60 条

NVMe over Fabrics 概念与架构

NVMe over Fabrics 通过网络传输 NVMe 命令集,保留成对提交/完成队列的模型,结构上由主机、子系统、控制器、命名空间与发现服务组成,传输可选 TCP、RDMA 或 FC。相比 SCSI 路径,它命令开销更小、并发队列更多,授权以 NQN 为主,需同时关注网络边界与授权清单。

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌‌​‌‌‌​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​‌‌‌​​‌​​‌‌​​​​‌​‌‌​​‌‌‌​‌‌​​‌​‌​​‌​‌‌‌‌​‌‌​‌‌‌​​‌‌‌​‌‌​​‌‌​‌‌​‌​‌‌​​‌​‌​​‌​‌‌​‌​‌‌​‌‌‌‌​‌‌​​‌‌​​​‌​‌‌​‌​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌‌​​‌‌​​​‌‌​‌‌​​‌​‌​‌‌‌​​​​​‌‌‌​‌​​​‌‌‌​​‌‌​​‌​‌‌​‌​‌‌​​​​‌​‌‌‌​​‌​​‌‌​​​‌‌​‌‌​‌​​​​‌‌​‌​​‌​‌‌‌​‌​​​‌‌​​‌​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌‌​‌​‌​‌‌‌​​‌​​‌‌​​‌​‌​​‌​‌‌‌​​‌‌​‌​​​​‌‌‌​‌​​​‌‌​‌‌​‌​‌‌​‌‌​​

把 NVMe 命令搬到网络上

NVMe over Fabrics 把原本跑在本地 PCIe 上的 NVMe 协议搬到网络传输上,让主机通过网络访问远端固态存储,同时保留 NVMe 的队列模型:主机与存储之间以成对的提交队列与完成队列交互,命令开销比 SCSI 更小、并发队列更多。结构上包含主机侧发起端、提供存储的子系统、子系统内的控制器与命名空间,以及用于告知主机有哪些可用目标的发现服务。传输层可选 TCP、RDMA 与 FC。

基本信息

传输类型TCP、RDMA、FC
协议基础NVMe 命令集 + 面向 fabric 的封装与发现服务
标识方式主机与子系统用 NQN 命名,命名空间有全局标识
多路径机制由 ANA 访问状态驱动的多路径选择
权限要求主机侧 root/管理员,存储侧子系统与主机授权配置

典型使用场景

  • 全闪存集中存储环境下追求更低延迟与更高并发
  • 新建数据中心评估 NVMe over TCP 以复用现有以太网
  • 已有 FC 投资的环境评估 NVMe over FC 以复用 fabric
  • 高性能数据库与容器存储卷的块设备后端
  • 替换既有 SCSI 块存储路径时的技术选型

概念与命令对照

概念与命令对照
# 1) 发现可用子系统(示例为 TCP 传输)
nvme discover -t tcp -a 10.0.20.11 -s 4420
# 2) 连接到指定子系统
nvme connect -t tcp -n nqn.2024-01.com.example:storage01 -a 10.0.20.11 -s 4420
# 3) 查看已连接子系统及其路径与访问状态
nvme list-subsys
# 4) 查看命名空间对应的块设备
nvme list

关键概念对照

NVMe-oF 概念作用对应传统概念
子系统(subsystem)对外提供存储的逻辑单元接近阵列或目标端
控制器(controller)主机连接的通信端点接近目标端口
命名空间(namespace)可被主机访问的存储单元接近 LUN
NQN主机与子系统的全局名称接近 WWN 或 IQN
发现服务告知主机有哪些可用目标接近发现会话
传输类型的选择取决于既有网络与延迟要求:TCP 部署门槛最低,RDMA 需要无损或有相应拥塞控制支持,FC 依赖既有光纤通道环境,具体能力与限制以各自官方文档为准。
NVMe-oF 的授权模型以主机名称(NQN)为主,配置错误会让不该访问的主机连接到子系统;上线前应核对授权清单与网络边界,不要只依赖传输网络的隔离。

易错点

  • 把 NVMe-oF 当作纯网络提速手段,忽略上级主机并发与存储后端才是真正的瓶颈
  • 只做网络隔离不做 NQN 授权核对,出现不该连接的主机接入子系统
  • 传输类型选型只看单次延迟测试,忽略运维复杂度与团队既有能力
  • 忽略命名空间到块设备的映射台账,后续扩容时设备名变化难以追溯
  • 上线未做故障切换验证,多路径在 ANA 状态变化时行为与预期不符

数据来源与参考

  • NVM Express Base Specification(NVMe 基础规范)
  • NVM Express over Fabrics Specification(含 TCP、RDMA、FC 传输绑定)
  • Linux nvme-cli 官方文档

整理校对:其其网ICT文档中心 · 本页地址:docs.qiqicto.com/storage/nvme-of-concepts-architecture.html

​‌‌​​‌​​​‌‌​‌‌‌‌​‌‌​​​‌‌​‌‌‌​​‌‌​​‌​‌‌‌​​‌‌‌​​​‌​‌‌​‌​​‌​‌‌‌​​​‌​‌‌​‌​​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​​‌​‌‌‌​​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌​‌​​‌​‌‌‌‌​‌‌‌​​‌‌​‌‌‌​‌​​​‌‌​‌‌‌‌​‌‌‌​​‌​​‌‌​​​​‌​‌‌​​‌‌‌​‌‌​​‌​‌​​‌​‌‌‌‌​‌‌​‌‌‌​​‌‌‌​‌‌​​‌‌​‌‌​‌​‌‌​​‌​‌​​‌​‌‌​‌​‌‌​‌‌‌‌​‌‌​​‌‌​​​‌​‌‌​‌​‌‌​​​‌‌​‌‌​‌‌‌‌​‌‌​‌‌‌​​‌‌​​​‌‌​‌‌​​‌​‌​‌‌‌​​​​​‌‌‌​‌​​​‌‌‌​​‌‌​​‌​‌‌​‌​‌‌​​​​‌​‌‌‌​​‌​​‌‌​​​‌‌​‌‌​‌​​​​‌‌​‌​​‌​‌‌‌​‌​​​‌‌​​‌​‌​‌‌​​​‌‌​‌‌‌​‌​​​‌‌‌​‌​‌​‌‌‌​​‌​​‌‌​​‌​‌​​‌​‌‌‌​​‌‌​‌​​​​‌‌‌​‌​​​‌‌​‌‌​‌​‌‌​‌‌​​