齿轮是机械传动装置中的重要部件，大部分机械设备振动和噪声主要由齿轮系统引起。在已有的文献中，对齿轮系统振动的研究主要集中在时变啮合刚度、齿侧间隙和综合误差等非线性因素，对齿面接触温度、摩擦力等非线性因素对系统的影响研究较少。本文建立了考虑齿面接触温度、齿面摩擦力的单级直齿圆柱齿轮系统的动力学模型和仅考虑齿面接触温度的二级直齿圆柱齿轮系统的动力学模型。基于非线性振动理论，通过计算分析系统的最大幅值响应云图、最大齿面闪温、位移-时间映像、分岔图、相图、Poincaré截面图、吸引域等，研究了系统齿面闪温的变化、动力学参数敏感性、动力学参数的耦合关系、局部和全局动力学稳定性，具体的研究内容如下。基于Hertz接触理论，推导出齿面接触温度导致的轮齿啮合刚度随时间变化的表达式。根据齿面接触温度对轮齿啮合刚度的影响在传统齿轮系统非线性动力学模型的基础上建立考虑齿面接触温度、齿面摩擦力和润滑状态单级直齿圆柱齿轮系统的动力学模型，对系统的运动方程进行无量纲化处理。针对所建单级齿轮系统分析系统的啮合频率变化时，系统的局部和全局的动力学特性，通过胞映射方法详细研究系统多个稳态解共存的现象和吸引域演化的规律，发现倍化分岔、混沌吸引子边界激变对吸引域拓扑结构的影响较小，而鞍结分岔对吸引域的变化影响较大。多吸引子共存时，存在吸引子相互竞争的现象，造成系统全局不稳定。摩擦力还会减少系统多周期解共存的情况，有利于系统的全局稳定。之后分析齿轮本体温度与时变啮合刚度、综合误差、齿侧间隙等非线性参数耦合变化时系统的扭转振动特性，发现系统各非线性参数耦合关系明显，对系统的影响复杂。最后在考虑传统齿轮系统非线性因素的基础上，建立考虑齿面接触温度的二级直齿圆柱齿轮系统的非线性动力学模型。对系统的运动方程进行无量纲化处理。之后研究齿轮本体温度与时变啮合刚度、综合误差和齿侧间隙等非线性参数耦合变化的情况下两对啮合齿轮的扭转振动特性，亦发现系统各个非线性参数耦合关系明显。对系统的混沌分岔特性做出分析，发现在同一初值下，两对啮合齿轮在个别啮合频率处处于不同的周期运动状态，整个系统处于多周期解共存状态，不考虑齿面接触温度时，二级齿轮传动系统中未出现多周期解共存现象。