emqx版本：emqx-enterprise-5.3.2-el7-amd64.rpm
mqttx版本：V1.9.7
openssl自签名证书
错误日志如下，项目紧急，请帮忙分析一下什么原因
这个应该是证书错了。emqx 对于 debug 证书相关的，还是有点弱，推荐你自己使用 Wireshark 抓包分析 TLS 握手过程。如果不行，就在 nginx 上配置相同的证书，看看报什么错，用 nginx 来终结 tls。然后再到 emqx。
抓包，客户端发了Client hello，服务器没有回复Server hello，能帮忙看看什么问题吗？
那就是你的证书错了。你拿这证书去用配置其它的软件也应该是错的。可以检查一下你的证书生成过程。