现在，中国的电网规模变得越来越大，它的运行方式也变得越来越复杂，这就使得电力系统的稳定性问题变得日益突出。在众多的稳定性问题当中，低频振荡问题是最常见的问题之一。解决这一问题最常用的手段就是加装电力系统稳定器（PSS）。但传统PSS的设计，是以系统在某一稳定运行点的线性化模型为基础的，当系统的运行点发生变化时，传统PSS的作用效果就变得不尽如人意。在工业方面，预测控制理论已经有了广泛的应用，在电力行业中也有了应用先例，但是，这些应用大部分都是以系统的线性化模型为基础。线性预测控制理论比较成熟，在一定范围内，系统控制比较稳定、可靠，但是由于经过模型线性化过程，控制精度不高。为此，本文提出了基于粒子（PSO）优化的非线性预测控制算法，采用粒子群算法来改进非线性预测控制的滚动优化环节，从而提高了系统输出精度和响应速度。但是考虑到粒子群算法的种群一般随机产生，系统初始运行时刻得出的控制量可能需要较长时间优化，影响系统动态响应性能；也可能致使控制量变化较大，造成系统输出大幅震荡。因此，本文提出在系统初始运行时采用成熟的线性预测控制算法，待到PSO种群稳定后，再采用基于PSO的非线性预测控制算法。这样，本文提出的新型非线性预测控制策略同时具有线性和非线性预测控制算法的优点，系统控制精度高、响应快、稳定性好。本文将该算法应用于PSS的设计中并利用MATLAB进行了仿真。通过对单机无穷大系统在发生两相短路故障、输入的机械功率增加、发生三相断路故障等情况下的仿真，证明应用本文设计的PSS提高了系统的稳定性和精确性。