滚动轴承作为关键部件已经被广泛地应用于旋转机械设备。旋转机械设备的运行性能与滚动轴承的工作状态紧密相关。因此,滚动轴承故障诊断技术一直以来都是机械故障诊断领域中的重要研究课题。随着机械设备自动化程度越来越高,为了及时准确地对滚动轴承进行故障诊断,开展智能故障诊断研究显得尤为必要。滚动轴承故障诊断包含故障检测和故障类型识别两个方面。故障检测实质上是一个单分类问题,而故障类型识别是一个多分类问题。因此,滚动轴承智能故障诊断的关键在于模式识别。近年来,基于概率统计的模式识别方法、聚类算法、神经网络和基于核的模式识别方法等被国内外相关学者应用到滚动轴承的故障诊断,并取得了丰硕的研究成果。其中,基于核的模式识别方法尤其受到关注。从几何角度来看,一些典型的基于核的模式识别方法如支持向量机、支持向量数据描述和最大间隔仿射包分类等都是采用一种几何模型估计样本集的类别分布,然后再利用某种决策规则建立分类模型。受这一思路启发,论文在国家自然科学基金项目(项目编号:51075131)和湖南省研究生科研创新项目(项目编号:CX2014B146)的资助下,将凸包作为类别分布的估计模型并提出了基于凸包的模式识别方法,为滚动轴承智能故障诊断提供新的思路和技术。论文主要研究工作如下:(1)针对滚动轴承的故障检测问题,提出了基于凸包的单分类(One-Class Classification based on the Convex Hull,OCCCH)方法,并且提出了广义Gilbert算法解决OCCCH涉及的最小模问题。阐述了OCCCH与单类支持向量机(One-Class Support Vector Machine,OCSVM)之间的关系,并通过数值实验对比分析了这两种单分类方法的分类精度和计算效率。实验结果表明,使用广义Gilbert算法的OCCCH在计算效率方面要优于使用贯序最小优化(Sequential Minimal Optimization,SMO)算法的OCSVM,并且两者的分类精度相当。(2)针对OCCCH的核参数选择问题,提出了改进的MIES(Improved MIES,IMIES)算法选择高斯核参数。通过数值实验对比分析了IMIES与另外两种基于决策边界松紧程度的高斯核参数选择方法(MIES和DTL)的性能。实验结果表明,IMIES能够比MIES和DTL选择更为合适的高斯核参数。经过IMIES选择高斯核参数和广义Gilbert算法训练模型,将OCCCH应用于滚动轴承故障检测,结果表明所提出的单分类方法可有效检测滚动轴承的故障。(3)针对广义Gilbert算法在迭代后期速度变得缓慢这一问题,提出了广义Mitchell-Dem’yanov-Malozemov(MDM)算法解决OCCCH中的最小模问题。从理论上比较了广义MDM算法和广义Gilbert算法在更新策略和算法复杂度等方面的不同。数值实验对比分析结果表明,广义MDM算法相对于广义Gilbert算法在计算效率方面具有明显优势。(4)针对滚动轴承的故障类型识别问题,在定义弹性凸包的基础上提出了最大间隔弹性凸包分类(Maximum Margin Classification based on Flexible Convex Hulls,MMC-FCH)方法。通过数值实验验证了MMC-FCH的有效性,同时也将其与另两种最大间隔分类方法比较。将MMC-FCH应用到滚动轴承的故障类型识别。实验结果表明,MMC-FCH不仅可以识别滚动轴承的故障位置也能够识别故障程度。(5)将凸包估计与最近邻分类思想相融合,提出了基于凸包的另一种多分类方法,即最近邻凸包分类(Nearest Neighbor Convex Hull Classification,NNCHC)方法。同时,对广义MDM算法进行修改并将其推广到NNCHC中的优化问题。将NNCHC和局部特征尺度分解(Local Characteristic-scale Decomposition,LCD)相结合,提出了基于NNCHC和LCD的滚动轴承故障诊断方法。实验结果表明,NNCHC能成功地实现对滚动轴承故障位置的识别,而且在小样本的情况下也仍能取得高的正确识别率。