有限元极限分析是国际上最新发展起来的一种岩土稳定性分析方法。该方法通过有限元离散的方式将上、下限定理转化为相应的数学规划问题,并且利用计算机自动搜索出极限状态下的速度场或应力场,成功地克服了传统极限分析中速度场或应力场难以构造的问题,具有广阔的工程应用前景。根据其所建立数学规划模型的不同,有限元极限分析方法可分为两大类,即基于线性规划的有限元极限分析方法和基于非线性规划的有限元极限分析方法。后者由于避免了对屈服函数的线性化处理,不仅可用于求解非线性破坏准则下的岩土稳定性问题,而且相对于前者具有计算精度高、求解速度快和节约计算机内存等特点。本文主要针对基于非线性规划的有限元极限分析方法开展相关研究工作,并从理论研究和工程应用研究两个方面对其进行深入地探讨和改进。首先,对极限分析的理论基础及基本假定进行了详细地介绍,在此基础上,给出了上、下限定理数学变分原理的具体形式。为了将上、下限定理的数学变分原理转化为相应的数学规划问题进行求解,采用线性三角形单元对应力场或速度场进行离散,然后将静力许可条件和机动许可条件的相关要求转化为单元或节点优化变量的约束方程,并以总的外力荷载(下限分析)或能量耗散率(上限分析)为目标函数,建立了有限元极限分析的非线性上、下限规划模型。其次,针对现有算法的不足,采用可行弧内点算法和Wolfe非精确搜索技术改进非线性上、下限规划模型的优化求解效率。其中,采用可行弧技术来代替现有算法中的偏转扰动策略,成功地克服了当迭代点到达非线性约束边界时搜索步长过短的问题,使优化求解程序的迭代次数明显减少;采用Wolfe非精确搜索技术代替现有算法中的精确搜索技术,使相同条件下的步长搜索效率大幅度提升,大大地缩短了优化求解程序所需的迭代时间。再次,将极限分析的界限误差估计理论和前沿推进网格划分技术相结合,提出了一种有限元极限分析的网格自适应方法。通过严格的数学推导论证了——极限分析的总体界限差值(上、下限解之差)实际上等于网格中各单元界限差值之和。基于这一原理,将总体界限差值作为数值离散误差的衡量指标,而各单元界限差值对总体界限差值的贡献作为局部离散误差的估计,实现了有限元极限分析的后验误差估计方法。在此基础上,将网格中的局部离散误差分布情况转化为背景网格中的单元尺寸分布信息,并通过调用前沿推进网格划分程序生成优化后的计算网格,成功地实现了有限元极限分析的网格自适应优化。接下来,详细地探讨了基于Hoek-Brown准则的有限元极限分析方法在节理化岩体稳定性分析中的应用问题。为此,先对Hoek-Brown准则的发展历史进行了简要的回顾,在此基础上,深入地分析了Hoek-Brown准则的适用条件。然后,通过严格的数学推导给出了Hoek-Brown屈服函数对应力分量的一、二阶偏导数的计算公式,并将上述计算公式编制为相关计算机程序嵌入到有限元极限分析程序中,成功地实现了基于Hoek-Brown准则的有限元极限分析方法在岩体稳定性分析中的应用。最后,利用本文所开发的有限元极限分析程序研究了节理化岩质隧道在自重荷载作用下的塌落稳定性问题。通过提出合理的计算假定将所研究的问题抽象化,在此基础上,建立了可以考虑多种影响因素的简化计算模型;然后,通过大量的数值计算,建立了无扰动条件下的隧道稳定性分析图、表,并对隧道稳定性的影响因素进行了全面地分析和讨论;接着,根据隧道极限状态下的能量耗散分布和速度大小分布,探讨了隧道破坏模式的演进规律,在此基础上,对本文关于深埋隧道的计算假定进行了详细地论证;之后,通过计算不同扰动因子D下的隧道稳定数Nds,建立了不同扰动程度下的隧道稳定性扰动系数ζ的图、表;最后,基于应用实例验证了本文方法的实际应用价值。