四旋翼倒立摆系统是有着欠驱动性,强耦合性和多种变量特性的非线性系统。又因倒立摆系统含有两个自由度,而四旋翼无人机系统含有六个自由度,因此组合系统共包括八个自由度。本文所研究的控制器实验平台,不光有四旋翼无人机在模型系统上的不确定性,同时还有倒立摆系统的不稳定性,可以满足目前对复杂系统的控制设计进行验证的需求,也可以增强四旋翼无人机的工作效率。在已有的成果中可发现,大多使用线性化的数学模型来设计控制系统。然而,实际环境中的控制器大多结构复杂,参数繁多且难以整合,并且当控制器的参数选取不当时,系统将会受到外界带来的干扰。针对以上的问题,本研究提出了基于粒子群算法优化的LQR控制器和粒子群自抗扰控制,通过仿真实现了算法的高度有效。本文的主要研究有以下几个方面:（1）首先,介绍了四旋翼倒立摆系统的研究意义和背景,建立系统动力学的方程。系统动力学的模型主要有两方面,即倒立摆和四旋翼无人机的数学模型,并在建立好的组合系统的模型平衡点处实施线性化的处理。（2）其次,为解决控制器参数难整合的情况,采用粒子群算法优化LQR控制器的方法。相对于经验法而言,粒子群算法作为人工智能算法的一种,针对粒子群可能会出现的过早收敛与算法局部的搜索能力变弱等问题,对惯性权重,学习因子与当前局部最优值进行优化,使算法局部的搜索能力增强,并抑制了算法过早收敛的问题,并在仿真实验中充分验证了改进后算法的可行性。（3）再次,引入了自抗扰控制,因为数学模型是在理想情况下被设计出的,会存在一些不可避免的内部和外部的扰动。自抗扰控制可以不依靠精确的数学模型来控制系统达到稳定平衡的状态,但其参数有很多,并且没有实用的参数调节方法,本研究用改进后的粒子群算法对参数进行调节。通过仿真验证粒子群自抗扰控制可以使系统运行的更加稳定,具有更强的抗干扰性和鲁棒特点。（4）最后,验证两种控制方法下的系统在扰动和噪音的存在下是否可以稳定运动,分析和比较两种控制方法下系统的抗干扰性和鲁棒性。表明基于改进粒子群的自抗扰控制器可以更加稳定的控制四旋翼倒立摆系统,使系统具有更强的抗干扰能力和鲁棒特点,更好地满足系统需求。