哈密顿函数在平衡点处的二次部分定号时，哈密顿函数在平衡位置有局部极值，可得这个平衡点是李雅普诺夫稳定。哈密顿系统在平衡点处非谱稳定时，必然非李雅普诺夫稳定，但谱稳定不能得到李雅普诺夫稳定。因此对平衡点谱稳定的哈密顿系统，通过李变换算法化为李规范型，分析哈密顿函数高阶项，判断哈密顿系统在平衡点的稳定性。本文主要以平面圆型限制性三体问题在各个平衡点的稳定性判断为例，分析自治哈密顿系统在平衡点的稳定性。可以发现，系统在平衡点的稳定性与其线性部分特征值在有理数域上的相关性有关，线性相关则系统有共振关系。没有共振时，系统在平衡点的李规范型的首次积分是正定的，易得系统在平衡点李稳定性。但共振存在时的李稳定性，仅有在特殊情形才可判断，本文给出部分有单共振存在时，自治哈密顿系统在平衡点的稳定性判断。　　本文共分为五章:第一章介绍了有限维自治哈密顿系统，李雅普诺夫稳定性的背景与发展;第二章给出有限维自治哈密顿系统在平衡点谱稳定、线性稳定的判断方法;第三章给出在平衡点处，用李变换的方法将哈密顿系统化简为规范型的步骤;第四章分别给出在线性系统可对角化与二阶单共振存在时，自治哈密顿系统在平衡点稳定性的判定;第五章的第一部分，以平面圆型限制性三体问题平衡点稳定性判定为例，总结了哈密顿系统平衡点处稳定性判断的定理，以及共振存在时某些临界情形的稳定性判断的方法，第二部分，给出用线性算子扰动理论，辛道路的ω-指标定理以及变分迭代的方法，来研究平面三体问题的椭圆拉格朗日解的线性稳定性的办法。