在行星齿轮传动系统设计中,振动与噪声是最重要的设计指标之一。齿轮修形技术被制造商广泛地应用,以补偿轮齿在不同载荷工况下的弹性变形,从而减小齿轮啮合激励波动,进而减小行星齿轮系统的振动和噪声。由于齿轮侧隙的存在,行星齿轮系统在其固有频率附近工作时,可能会出现部分或全部轮齿脱离啮合现象,表现出软化的非线性动力学特性。行星齿轮工作时各齿轮啮合副之间都存在啮合相位差,导致各啮合副各谐次啮合力在构成合力和合成扭矩时相互抵消或者放大,行星齿轮的这种独特结构特性使得行星齿轮系统的非线性动力学行为表现得更加复杂。与传统的基于齿轮系统静态传动误差最小化的轮齿修形策略不同,本文提出了基于非线性动力学响应最小化的行星齿轮轮齿修形策略。深入研究修形行星齿轮传动系统的非线性动力学激励特征,以及基于非线性动力学响应的行星齿轮修形理论和设计计算方法,具有重要的理论意义和工程实用价值。论文的主要工作归纳如下:（1）考虑齿轮延长啮合的影响,改进了基于势能理论的齿轮时变啮合刚度解析法,并得出齿廓修形在不同载荷工况下的太阳轮-行星轮和内齿圈-行星轮的时变啮合刚度。改进解析法计算的齿轮啮合刚度,与运用FE/CM特殊的有限元软件Calyx计算结果相吻合。作为非线性动力学模型的激励要素,修形行星齿轮的时变啮合刚度得到了系统的分析。（2）分别建立了有无修形的行星齿轮系统动力学集中参数模型,动力学模型综合考虑了由于侧隙而可能会导致齿轮发生部分或全部脱啮的非线性动力学行为。针对目前的修形行星齿轮系统动力学模型假设的不足,本文提出了以修形齿轮工况载荷下的时变啮合刚度引起的刚度激励和空载静态传动误差引起的位移激励为内部激励的修形行星齿轮系统非线性动力学模型。对行星齿轮系统的研究对象进行了模态分析,讨论了系统扭转振动模态、平移振动模态和行星轮振动模态,分析了明显模态和退化模态,通过分析指出该行星齿轮系统动力学响应分析应重点关注1940Hz和5332Hz这两个纯扭转明显模态。对行星齿轮系统的齿轮啮合相位进行了剖析,揭示了行星齿轮系统各谐次振动抑制的规律,指出了该行星齿轮对象为行星同相结构,平移振动响应/模态能被很好地抑制;但是由于啮合力形成的合成力矩被放大,扭转振动响应/模态容易被激发。（3）为解决行星齿轮系统高维度非线性动力学方程积分求解耗时问题,分别运用了谐波平衡法和多尺度摄动方法求解有无修形的行星齿轮动力学方程。与传统的数值积分方法相比,多尺度法和谐波平衡法均能有效地捕捉了行星齿轮系统在固有频率附近“跳跃”特性以及升速和降速工况下的非线性响应分支,而多尺度法更直接得出主响应附近的逼近解析式。本解析式计算结果与文献公开的有限元和数值积分计算结果相吻合。结合两种求解方法的优点和行星齿轮非线性响应特性,采用了谐波平衡法对全频域求解、多尺度法对部分模态主响应附近频域求解相结合的方法,对行星齿轮非线性动力学响应进行研究。（4）把改进的齿轮时变啮合刚度模型、改进的修形行星齿轮系统非线性动力学模型以及多尺度解析计算方法有效结合起来,实现了全解析的基于非线性动力学响应的行星齿轮修形计算,由此有效地把复杂模型、复杂计算与复杂问题系统地开展同步研究。运用参数研究的方法,研究了不同载荷工况下不同齿廓修形参数对行星齿轮非线性动力学响应的影响。结果表明,随着载荷的增大,相同修形长度下对应非线性动力学响应峰值最小的最佳修形量也随之增大;不同载荷对应的最佳修形量并不一致,所以在行星齿轮修形设计中应结合实际的工况载荷谱开展齿轮修形方案的设计;行星齿轮齿廓修形中修形长度和修形量是一对相互影响的参数,不能单独对其中的一个参数进行动态性能讨论;不当的修形量反而放大行星齿轮系统的非线性动力学响应,这是由于修形所带来的额外空载静态传动误差激励造成的。通过试验进一步表明,修形方案对应齿轮箱的主阶次噪声在1940Hz扭转明显模态附近的峰值明显降低,对应转速（频率）的总声压级也相应地明显降低。以外,在其他远离模态的转速（频率）对应的噪声也得到了很好的控制。