大型旋转机械在电力、能源、交通、国防和化工等领域中得到了广泛应用，其核心部件转子-轴承系统运行过程中经常出现裂纹、油膜失稳和碰摩等故障，这些故障都与系统的非线性因素相关。大型旋转机械的转子-轴承系统通常具有高维非线性特征，这些故障的分析、预测与排除往往十分困难，因此故障的非线性动力学特性理论研究及为能够进行理论分析其高维转子-轴承系统的降维问题得到广泛关注。本文针对转子-轴承系统的油膜失稳、裂纹、碰摩等故障，为了对多自由度转子-轴承系统进行非线性动力学分析。本文提出了非线性瞬态POD(ProperOrthogonal Decomposition，正交模态分解)方法，将高维故障非线性转子-轴承系统降维为两个自由度系统，通过数值计算和理论分析，得到了分岔方程，利用C-L方法给出了转子-轴承系统在不同参数区间内的不同分岔模式，为其故障机理分析以及非线性动力学设计提供了理论依据。具体的研究内容和结果如下：为对高维非线性转子系统实现动力学分析，介绍了高维非线性系统常用的降维方法，其中包括中心流形定理、L-S方法、Galerkin方法以及POD方法，并详细分析各种方法的优缺点。借鉴以上的方法及降维思想，考虑到在给定初始条件下，系统的过渡过程是一个包含自由振动信息和受迫振动信息的复杂过程，提出非线性瞬态POD方法：利用POD方法从系统的过渡过程信号中获取一组POMs（Proper Orthogonal Modes），取其前两阶POMs组成投影空间，将原系统投影到该空间上，得到两个自由度的近似等效模型。该方法可以认为是近似惯性流形的另一种构造途径。利用算例对比指出，其降维效果优于传统的POD方法和Galerkin方法。为本文的高维非线性转子故障系统动力学分析提供有效的降维方法。油膜故障是汽轮机转子运行中常见的故障，考虑某多自由度油膜故障系统，利用拉格朗日方法，建立22自由度滑动支撑的转子-轴承系统。利用非线性瞬态POD方法成功将高维非线性系统降维为两自由度含有油膜故障特性的非线性系统。进而利用C-L方法对其进行分岔分析，讨论了系统参数与系统动态行为之间的关系，得到了油膜激励作用下的不同分岔模式。转轴出现裂纹的潜在危害性与一般故障的危害性相比较要严重得多，而其对应的数学模型为参数激励系统。接下来本文根据某低压转子系统，利用拉格朗日原理建立了具有26个自由度的含有裂纹故障的高维非线性动力学模型。进一步研究得出，当系统转轴处出现裂纹时，系统出现明显的二分之一亚谐振动等故障特性；该系统为参激系统，进一步改进了非线性瞬态POD方法，成功将该高维非线性参激系统降为两个自由度等效系统。进而利用C-L方法对其进行分岔分析，利用两个状态变量的分岔理论，讨论了系统参数与系统动态行为之间的关系，得到了裂纹转子各种不同分岔模式，准确反映了裂纹转子的动力学特征。由于碰摩故障是旋转机械中常见的故障，其对应的数学模型为非光滑系统。本文考虑非对称圆盘的陀螺力矩效应，利用拉格朗日原理建立8个自由度弹性支撑转子系统的动力学模型。研究表明，当系统发生碰摩时，其幅频特性有明显变化；利用非线性瞬态POD方法成功将具有碰摩故障的非光滑系统降为两个自由度等效系统。进而利用C-L方法，应用两个状态变量的约束分岔理论，讨论了系统参数与系统动态行为之间的关系，得到了含碰摩故障转子系统各种不同分岔模式，准确反映了含碰摩故障的非光滑系统的动力学特征。在复杂工况下，转子系统的耦合故障常有发生，其数学模型也比较复杂。本文根据某低压转子系统，利用拉格朗日原理建立了具有24个自由度的含有裂纹、碰摩、油膜故障耦合故障的高维非线性动力学模型。研究表明，系统在三种故障下，有较复杂的动力学行为：当系统转轴处出现裂纹时，系统出现明显的二分之一亚谐振动故障特性；当系统发生碰摩故障时，其幅频特性主共振峰值有明显变化，而且会令系统的3倍频附近的幅值突然增加。引进非线性瞬态POD方法成功将具有耦合故障的复杂高维非线性系统降维为含有故障特征的两个自由度低维非线性系统。进一步应用C-L方法讨论了主共振和二分之一亚谐共振处的分岔情况，为耦合故障机理的分析提供理论基础。