冠军资讯
夜雨听风最近在对一批服务器进行升级，新采购的服务器使用了美光 NX511、NX512、NX516 和 NX517 系列的固态硬盘。在初步测试中，发现这些盘的性能并没有达到预期，尤其是在高并发的 I/O 密集型应用场景下，延迟较高。经过一番排查，终于找到了问题所在，并针对性地进行了优化。本文将分享这次排坑经验，希望能帮助到遇到类似问题的开发者。
问题场景重现：高并发下的 I/O 延迟
我们的一个核心服务是使用 Nginx 作为反向代理，后端挂载了一组 Redis 集群。Redis 集群负责缓存大量的用户数据，为了保证数据安全，我们开启了 AOF 持久化。在高并发的场景下，Redis 会频繁地将数据写入 AOF 文件，这给固态硬盘带来了巨大的 I/O 压力。通过 iostat 命令监控磁盘 I/O，发现 await (平均 I/O 等待时间) 指标很高，超过了 10ms，甚至达到了 20ms 以上。这直接导致了 Nginx 响应延迟升高，用户体验下降。
底层原理深度剖析：NVMe 协议与 Queue Depth
美光 NX511 NX512 NX516 NX517 系列固态硬盘采用 NVMe 协议，相比传统的 SATA 协议，NVMe 协议具有更高的并发性能和更低的延迟。NVMe 协议通过 PCIE 总线直接连接 CPU，减少了传输延迟。但是，NVMe 固态硬盘的性能发挥也依赖于合理的配置。其中，一个关键的参数是 Queue Depth (队列深度)。Queue Depth 指的是固态硬盘可以同时处理的 I/O 请求的数量。如果 Queue Depth 设置过小，就无法充分利用固态硬盘的并发性能，导致 I/O 瓶颈。
解决方案：调整 NVMe Queue Depth 并优化文件系统
1. 调整 NVMe Queue Depth
默认情况下，Linux 内核的 NVMe 驱动程序会使用一个默认的 Queue Depth 值。我们可以通过修改内核参数来调整 Queue Depth。具体步骤如下：
首先，查看当前的 Queue Depth 值：
cat /sys/block/nvme0n1/queue/queue_depth
然后，修改 /etc/rc.local 文件，添加以下命令，将 Queue Depth 设置为 128 (可以根据实际情况调整)：
echo 128 > /sys/block/nvme0n1/queue/queue_depth
注意： nvme0n1 是你的固态硬盘设备名，请根据实际情况修改。
修改完成后，重启服务器使配置生效。 或者使用 sudo sysctl -w block.nvme0n1.queue_depth=128 临时修改。
2. 优化文件系统
我们使用的文件系统是 ext4。为了进一步提升固态硬盘的性能，可以对 ext4 文件系统进行优化。具体步骤如下：
在挂载文件系统时，添加 noatime 和 nodiratime 选项，禁止更新文件和目录的访问时间。这可以减少不必要的 I/O 操作。
修改 /etc/fstab 文件，将文件系统的挂载选项修改为：
/dev/mapper/vg0-data /data ext4 defaults,noatime,nodiratime 0 2
同时，可以开启 discard (TRIM) 功能，让文件系统及时通知固态硬盘删除不再使用的数据块。这可以提高固态硬盘的写入性能。
修改 /etc/fstab 文件，添加 discard 选项：
/dev/mapper/vg0-data /data ext4 defaults,noatime,nodiratime,discard 0 2
或者，如果你的 Linux 发行版使用 systemd，可以使用 fstrim.timer 定期执行 TRIM 操作。
systemctl enable fstrim.timer
实战避坑经验总结
- 固件版本： 确保你的固态硬盘使用的是最新的固件版本。可以通过美光的官方网站下载最新的固件，并按照官方文档进行升级。
- 电源管理： 关闭固态硬盘的电源管理功能。电源管理功能可能会导致固态硬盘的性能下降。可以通过修改 BIOS 设置或者操作系统设置来关闭电源管理功能。
- 监控： 使用
iostat、iotop等工具监控固态硬盘的 I/O 性能。及时发现性能瓶颈，并进行优化。 - 文件对齐： 确保文件系统进行了正确的扇区对齐。错误的扇区对齐会导致固态硬盘的写入性能下降。
- 并发连接数： 针对 Nginx 这类高并发服务，除了优化固态硬盘本身，还需要关注 Nginx 的
worker_connections配置、TCP 连接的 TIME_WAIT 状态数量，以及是否合理使用了连接池等。 宝塔面板虽然简化了配置，但也可能隐藏一些性能优化的选项。
通过上述优化，我们成功地解决了美光 NX511 NX512 NX516 NX517 固态硬盘的性能瓶颈问题。Nginx 的响应延迟明显降低，用户体验得到了显著提升。希望本文的经验能帮助到你。
