非光滑多体系统动力学研究含有摩擦、碰撞等非光滑因素的多体系统动力学问题。由于非光滑多体系统具有不连续、非线性以及变拓扑结构等本质特征，使得该类系统动力学问题的求解需要采用新的数学理论以及新的数值算法。所以对该类系统的数学理论及数值算法的研究十分重要且具有挑战性。　　首先，对摩擦与碰撞并存的复杂约束条件下的多体系统进行研究，采用变拓扑结构动力学方程建立系统的微分代数方程组。其次，用集值函数与互补关系描述库仑摩擦定律及碰撞定律，结合多体系统微分代数方程建立系统 LCP模型。将 LCP算法融入微分-代数方程的数值积分过程，给出该类系统的非光滑数值算法，包括事件驱动算法与时间步进算法。　　最后，将上述理论与算法应用于具体问题，验证了理论与算法的正确性和有效性。以凸分析理论为工具，分析了库仑摩擦定律相关的凸集特征。以数值计算为辅助工具，分析了库仑摩擦对机械振动的影响，特别是对共振现象的影响，找到库仑摩擦振动所特有的一些性质。将事件驱动算法应用于单点接触的蛙式打夯机的数值仿真计算，将时间步进算法应用于多点摩擦碰撞的啄木鸟玩具数值仿真计算，验证了理论与算法的正确性与有效性。