大型旋转机械,如泵、压缩机、汽轮机、燃气轮机等,是广泛应用于能源、化工、电力、国防、运输行业的重要装备,一旦出现安全事故或损毁,将造成巨大的经济损失和人员伤害。随着生产的提高和科技的进步,旋转机械正向着大型、高速、重载、大柔度、强非线性和多物理场耦合的方向发展,由此带来许多亟待解决的科学问题,需要学术界和工程界深入开展研究。旋转机械的动力部分是转子-轴承系统。在实际运转中,转子组件受到质量偏心、滑动轴承、流场、电磁场等多种类型的载荷激励。其中,由多物理场相互作用产生的载荷往往是转子运动状态的非线性函数。研究者需要合理地对转子系统进行建模,开展准确的动力响应和稳定性研究,为未来解决实际工程问题提供理论依据。根据工程实际中泵转子组件的结构特点,本文建立了适用于以转轴为主体的转子-轴承系统的连续体模型。在连续转子模型的基础上,考虑非线性油膜力和非线性电磁力的耦合作用,建立系统的动力学控制方程。通过近似解析解和数值解方法,对转子系统进行了动力学响应分析和稳定性分析：（1）使用连续转子模型建模,推导了受非线性油膜力和非线性电磁力耦合激励的连续转子运动方程。采用Routh-Hurwitz判据得到转子平衡构型的稳定域；使用平均法确定了系统的主共振响应：利用数值方法研究了油膜力、电磁力和转子-轴承系统参数对系统动力响应的影响,分析了系统存在的多倍周期运动、分岔、拟周期运动和混沌等复杂非线性动力现象。（2）使用广义谐波平衡法,在频域内建立了连续转子系统谐波响应的控制方程,求解了平面连续转子系统的近似周期解,确定了运动随转速发生的分岔类型以及近似周期解的稳定性。之后,将这一方法推广到空间连续转子系统近似周期解、分岔及其稳定性的分析和研究。（3）构造含参数振动并受到非线性耦合激励的连续转子系统,使用多尺度法研究了转子系统发生主（参数）共振、亚谐共振和超谐共振的现象。利用数值积分方法,分析了电机磁极对数、激磁电流基波磁动势、质量偏心和油膜力对转子系统非线性参数激励响应的影响。（4）研究了连续转子系统的全局动力行为。使用G-函数方法研究系统相轨迹发生全局横截与碰擦的现象,利用L-函数方法判定周期-κ运动的周期性。