两个不同的 openssl 版本之间加密/解密无法正常工作

问题描述：

我已经下载并编译了openssl-1.1.0。

我可以使用相同的 exe 进行加密和解密openssl（如此处所示）

me@ubuntu:~/openssl-1.1.0$ LD_LIBRARY_PATH=. ./apps/openssl aes-256-cbc -a -salt -in file.txt -out file.txt.enc
enter aes-256-cbc encryption password: 123
Verifying - enter aes-256-cbc encryption password:
me@ubuntu:~/openssl-1.1.0$ LD_LIBRARY_PATH=. apps/openssl aes-256-cbc -a -d -in file.txt.enc -out file.txt.dec
enter aes-256-cbc decryption password: 123

这openssl使用：libcrypto.so.1.1, libssl.so.1.1

当我尝试使用openssl安装在我的 ubuntu 上进行解密时，它使用：
/lib/x86_64-linux-gnu/libssl.so.1.0.0, /lib/x86_64-linux-gnu/libcrypto.so.1.0.0

我收到一个错误：

me@ubuntu:~/openssl-1.1.0$ openssl aes-256-cbc -a -d -in file.txt.enc -out file.txt.dec2
enter aes-256-cbc decryption password: 123
bad decrypt
140456117421728:error:06065064:digital envelope routines:EVP_DecryptFinal_ex:bad decrypt:evp_enc.c:539:

这可能是什么原因造成的？谢谢

解决方案 1：

Openssl 1.1 中的默认摘要从 MD5 更改为 SHA256

尝试使用-md md5

cgs@ubuntu:~$ echo "it-works!" > file.txt
cgs@ubuntu:~$ LD_LIBRARY_PATH=~/openssl-1.1.0/ openssl-1.1.0/apps/openssl aes-256-cbc -a -salt -in ~/file.txt -out ~/file.txt.enc -md md5
enter aes-256-cbc encryption password:
Verifying - enter aes-256-cbc encryption password:
cgs@ubuntu:~$ LD_LIBRARY_PATH=~/openssl-1.0.1f/ openssl-1.0.1f/apps/openssl aes-256-cbc -a -in ~/file.txt.enc -d
enter aes-256-cbc decryption password:
it-works!

丑陋的细节：

输入的密码不会被 aes（或其他加密）直接使用，但该命令会从中隐式派生出密钥。密钥派生使用在 openssl 1.1 中更改的消息摘要，使用 SHA256 而不是 MD5 作为默认摘要。

如果你想保持密码简单，并且不弄乱密钥策略（-K，-iv），只需使用-md强制相同的摘要即可

解决方案 2：

我使用版本 1.1.0a（从 openssl.org 下载）和版本 1.0.2g-fips（来自我的 ubuntu 16.04）测试了 AES 加密和解密

当使用-p上的选项与 的两个不同版本时openssl，IV 和密钥是不同的：

$ LD_LIBRARY_PATH=~/openssl-1.1.0a/ ~/openssl-1.1.0a/apps/openssl aes-256-cbc -a -p -salt -in file -out file.enc
enter aes-256-cbc encryption password:
Verifying - enter aes-256-cbc encryption password:
salt=6A80B2A3B4CFE048
key=637E17094DF7892A7AFC14957EAA13991DFFD3273A2459EDA613F3AD8A406C38
iv =6AC7CE5C9AADC6C46C633BF5124DAFBF

$ openssl aes-256-cbc -a -d -p -in file.enc -out file.dec
enter aes-256-cbc decryption password:
salt=6A80B2A3B4CFE048
key=6220AF2E25CB0B5D9994A0A1B05503D82AC5B0B4C9015E241CACBF8BF62DAC77
iv =2DC04EF29AA57478EBE606DF87277EA6
bad decrypt
140557073118872:error:06065064:digital envelope routines:EVP_DecryptFinal_ex:bad decrypt:evp_enc.c:592:

我怀疑这两个版本根据盐得出的密钥和 IV 有所不同。

如果您想摆脱这个解密错误，您可以删除该选项并在 openssl 命令中使用密钥-salt和选项。-K`-iv`

解决方案 3：

OpenSSL 1.1 和 LibreSSL 之间也可能出现此问题。在这种情况下，以及在有更安全的消息摘要可用的其他情况下，您应避免使用它-md md5来加密新文件，因为 MD5 算法存在大量漏洞。

您应该使用-md sha256或所有版本都支持的其他更安全的消息摘要。-md md5应该只用于解密旧文件，最好使用 sha256 重新加密。OpenSSL FAQ中也提到了这一点：

消息摘要用于根据人工输入的密码创建加密/解密密钥。在 OpenSSL 1.1.0 中，我们从 MD5 更改为 SHA-256。我们这样做是作为整体更改的一部分，以摆脱现在不安全且有缺陷的 MD5 算法。如果您有旧文件，请使用“-md md5”标志来解密它们。

要检查您正在使用的不同版本支持哪些消息摘要，请运行openssl help：

LibreSSL 2.2.7（包含在 macOS 10.13 High Sierra 中）：

$ openssl help
…
Message Digest commands (see the `dgst' command for more details)
gost-mac          md4               md5               md_gost94
ripemd160         sha               sha1              sha224
sha256            sha384            sha512            streebog256
streebog512       whirlpool
…

OpenSSL 1.1f：

$ openssl help
…
Message Digest commands (see the `dgst' command for more details)
blake2b512        blake2s256        gost              md4
md5               rmd160            sha1              sha224
sha256            sha384            sha512
…

解决方案 4：

openssl 会抛出各种错误字符串，具体取决于相应的版本和场景。以下是我在遇到 openssl 相关问题时使用的检查表：

1. 理想情况下，openssl 仅能够使用相同的密钥（+ salt）和 enc 算法进行加密/解密。

2. 确保 openssl 版本（用于加密/解密）兼容。例如，openssl 中使用的哈希在版本 1.1.0 中从 MD5 更改为 SHA256。这会从同一密码生成不同的密钥。修复：在 1.1.0 中添加“-md md5”以解密来自较低版本的数据，并在较低版本中添加“-md sha256”以解密来自 1.1.0 的数据

3. 确保您的机器上只安装了单个 openssl 版本。如果同时安装了多个版本（在我的机器上，安装了：'LibreSSL 2.6.5' 和 'openssl 1.1.1d'），请确保只有所需的版本出现在您的 PATH 变量中。