OpenSSL 3.0 加密算法限制：避坑指南与兼容方案

最近在升级服务器 OpenSSL 版本到 3.0 后，发现一些原先运行良好的服务出现了问题，仔细排查后发现是 OpenSSL 3.0 对某些加密算法增加了限制。具体来说，一些较老的、安全性较低的算法，例如 MD5、DES 等，默认情况下不再启用。这本是一件好事，旨在提升安全性，但如果你的系统或应用依赖于这些算法，就会遇到麻烦。本文将分享我的排查过程、解决方案以及一些避坑经验。

问题场景重现：Nginx + OpenSSL 的 HTTPS 服务

我的一个典型场景是使用 Nginx 作为反向代理，提供 HTTPS 服务。Nginx 使用 OpenSSL 库来处理 SSL/TLS 连接。升级 OpenSSL 3.0 后，部分客户端无法正常建立 HTTPS 连接，错误信息显示 SSL routines:ssl3_get_record:wrong version number。这个问题并非所有客户端都会出现，而是集中在使用较旧浏览器或客户端库的设备上。

底层原理剖析：OpenSSL 3.0 的 Provider 机制

OpenSSL 3.0 引入了 Provider 机制，将不同的加密算法分组管理。默认情况下，default provider 包含了常用的安全算法，而一些较弱的算法被移到了 legacy provider 中。这意味着，如果你想使用这些被限制的算法，需要显式地启用 legacy provider。

# 查看 OpenSSL 3.0 的 Provider 配置
openssl list -providers

输出类似如下：

Providers:
  default
    name: OpenSSL Default Provider
    version: 3.0.2
    status: active
  base
    name: OpenSSL Base Provider
    version: 3.0.2
    status: active

可以看到，默认情况下只有 default 和 base 两个 Provider 处于 active 状态。要使用被限制的算法，需要手动激活 legacy provider。

解决方案：启用 Legacy Provider

最直接的解决方案是启用 legacy provider。根据你的 OpenSSL 配置方式，有以下几种方法：

1. 修改 OpenSSL 配置文件：找到 OpenSSL 的配置文件（通常位于 /etc/ssl/openssl.cnf 或 /usr/local/ssl/openssl.cnf），在 [provider_sect] 部分添加 legacy provider 的配置：

[provider_sect]
default = default_sect
legacy = legacy_sect

[default_sect]
activate = yes

[legacy_sect]
activate = yes

[default_properties]
digest = sha256

2. 在 Nginx 配置中指定 SSL 协议：如果仅仅是为了兼容旧客户端，可以尝试在 Nginx 的 ssl_protocols 指令中显式指定支持的 SSL/TLS 协议版本。但这种方法并不推荐，因为它会降低整体安全性。

ssl_protocols TLSv1 TLSv1.1 TLSv1.2 TLSv1.3; # 不推荐

3. 修改应用程序代码：如果你的应用程序直接使用了 OpenSSL 库，需要在代码中显式加载 legacy provider。这通常需要在初始化 OpenSSL 环境时调用相应的函数。

#include <openssl/provider.h>

int main() {
    // 初始化 OpenSSL
    OPENSSL_init_ssl(OPENSSL_INIT_LOAD_CONFIG, NULL);

    // 加载 legacy provider
    OSSL_PROVIDER *legacy = OSSL_PROVIDER_load(NULL, "legacy");
    if (legacy == NULL) {
        fprintf(stderr, "Failed to load legacy provider\n");
        return 1;
    }

    // ... 其他代码 ...

    OSSL_PROVIDER_unload(legacy);
    return 0;
}

实战避坑经验总结

• 谨慎升级 OpenSSL：在升级 OpenSSL 之前，务必进行充分的测试，评估对现有系统和应用的影响。特别是对于生产环境，建议先在测试环境验证后再进行升级。
• 了解 OpenSSL 3.0 的新特性：熟悉 OpenSSL 3.0 的 Provider 机制、算法限制等新特性，有助于快速定位和解决问题。
• 逐步迁移到更安全的算法：启用 legacy provider 只是一个临时的解决方案。长期来看，应该逐步迁移到更安全的加密算法，例如使用 SHA256 或 SHA3 等哈希算法，以及 TLSv1.3 等更安全的协议。
• 关注 Nginx 配置：Nginx 的 ssl_ciphers 指令控制了 Nginx 支持的加密套件。确保你的配置包含了足够多的安全套件，并避免使用弱加密套件。

ssl_ciphers 'ECDHE-ECDSA-AES128-GCM-SHA256:ECDHE-RSA-AES128-GCM-SHA256:ECDHE-ECDSA-AES256-GCM-SHA384:ECDHE-RSA-AES256-GCM-SHA384:ECDHE-ECDSA-CHACHA20-POLY1305:ECDHE-RSA-CHACHA20-POLY1305:DHE-RSA-AES128-GCM-SHA256:DHE-RSA-AES256-GCM-SHA384'; # 推荐配置

• 宝塔面板用户注意事项：如果使用宝塔面板，需要注意面板自带的 OpenSSL 版本与系统版本可能不一致。升级面板或手动更新 OpenSSL 库可能导致冲突。建议在操作前备份相关配置文件。

总之，OpenSSL 3.0 对某些加密算法增加了限制，这是一个安全性提升的举措，但也可能带来兼容性问题。通过了解底层原理、采取合适的解决方案，以及积累实战经验，可以有效应对这些挑战，确保系统的安全稳定运行。