旋转机械作为机械设备中最重要的部件之一,其运行状态直接影响整个系统,因此旋转机械的故障诊断是一个重要的研究课题。对旋转机械进行故障诊断,能够及时发现问题,减少损失。旋转机械故障诊断主要包括故障检测和故障识别两个方面的内容,故障检测属于单分类问题,故障识别属于多分类问题。核凸包近似表达（Kernelled Convex Hull Approximation,KCHA）是一种新的凸包解决方法,改善了传统凸包模型不能准确描述数据形状的缺陷。本文在KCHA的基础上研究基于凸包模型的旋转机械故障诊断方法,提出了单分类模式识别方法混合核函数凸包近似（Hybird Kernel Convex Hull Approximation,HKCHA）和多分类模式识别方法最小误差凸包近似（Minimal Error of Convex Hull Approximation,MECHA）,并分别将其应用于旋转机械故障检测和故障识别中。本文的主要研究内容包括以下几个方面:1)提出混合核函数凸包近似（HKCHA）和最小误差凸包近似（MECHA）方法,分别阐述了两种方法的算法思想,并通过数值实验将HKCHA和MECHA分别与常见的分类方法进行对比。实验结果证明,HKCHA和MECHA方法对公开数据集的分类准确率较高,具有优越性。2)提出了基于多尺度模糊分布熵（Multiscale Fuzzy Distribution Entropy,MFDE）和混合核函数凸包近似（HKCHA）的旋转机械故障检测方法。首先针对单一熵无法测量振动信号的复杂度问题,提出了多尺度模糊分布熵,研究了不同参数对MFDE的影响。然后提出基于MFDE和HKCHA的旋转机械故障检测方法。两组实验结果显示,MFDE对故障信号更加敏感,HKCHA对故障检测的准确率更高。3)提出了基于复合多尺度模糊分布熵（Composite Multiscale Fuzzy Distribution Entropy,CMFDE）和最小误差凸包近似（MECHA）的旋转机械故障识别方法。首先针对MFDE在粗粒化过程中的重要信息丢失以及不稳定问题,提出改进方法复合多尺度模糊分布熵（CMFDE）,并通过CMFDE与MFDE的对比实验验证了CMFDE的稳定性。然后提出基于CMFDE和MECHA的旋转机械故障识别方法。不同故障类型和不同故障程度两组实验验证了所提方法的优越性。