透平机械是工业领域中应用最为广泛,但设计也最为复杂的动力机械,其工作性能与之内部的复杂流动密切相关。分析并理解其内部的流动机理是高性能透平设计的基础和关键。同时,传统的“实验-修正”设计方法早已不能满足精细设计的要求。因此,发展高可信的数值模拟方法和先进的最优化设计方法也是透平机械领域的研究重点之一。本论文即针对以上两方面的内容展开研究。本文第一部分在已有实验数据的基础上通过数值模拟对透平机械内的气膜冷却流动和动静干涉引起的三维非定常效应这两个热点问题进行研究。对于气膜冷却流动,首先以平板矩形冷却孔为模型,通过RANS模拟和DES模拟,研究了吹风比对冷却孔附近流动的影响,揭示了冷却孔下游涡系结构的形成机理,提出了“临界吹风比”存在的可能性。在低吹风比下,冷却孔下游的流动呈稳定的对称结构,马蹄涡分支始终贴附于平板；随着吹风比的增加,流动失稳,然后逐渐过渡到稳定的非对称结构。此时,马蹄涡分支和平板表面的冷却气流被卷入对转涡对,破坏了气膜结构,不利于冷却。因此气膜冷却的吹风比不易过大。在深入理解了冷却孔附近的流动结构的基础上,以AGTB平面叶栅为模型进行了叶片前缘气膜冷却的数值模拟。采用定常的RANS方法研究了在不同吹风比下,冷却孔分别为槽缝、水平直孔和径向斜孔三种冷却模型下的气膜冷却流动。在与实验进行对比确认的基础上,分析了冷却射流对主流的影响和和引起的附加损失。槽缝冷却易在槽缝下游引起大尺度的分离流,形成沿展向运动的漩涡,使得冷却效果恶化,且流动损失大幅增加；斜孔冷却气流分布较直孔冷却气流均匀,但引起的附加损失比直孔冷却的略大。因此,叶片气膜冷却宜采用具有一定倾斜角度的冷却孔模型进行冷却。对于动静干涉引起的叶片通道内的三维非定常效应,以AIST研究所的某低速轴流涡轮为模型,采用非线性谐波(NLH)方法进行了非定常数值模拟。获得了叶片通道内流动的非定常特性,并与实验结果进行了对比验证。模拟结果表明,NLH方法可以有效地模拟动静干涉。与传统的全非定常方法、相延迟法等相比,在相同的计算精度下,NLH方法具有计算量小,速度快等优势。增加谐波阶数,可以提高模拟的精度。但对于只存在一个转静交接面的透平机械,采用二阶谐波方法已可获得满意的精度。由于涡轮的转速和进口雷诺数都很低,因此在静叶吸力面形成了大尺度的层流分离。工质的可压缩性和对流态的判断对于模拟结果影响显著。采用不可压工质的模拟结果准确捕捉了层流分离的位置,而且采用可压缩工质模拟的分离位置推迟,而且分离区较小。本文第二部分发展了用于透平机械鲁棒气动设计的耦合优化方法。该方法采用基于Pareto最优概念的多目标遗传算法NSGA-Ⅱ.优化过程中,通过CFD模拟来评估透平机械的气动性能,同时引入了不确定性分析方法来考虑随机因素对透平气动性能的影响,并采用人工神经网络与CFD计算相结合的方法来减小优化目标评估的计算量。首先用典型数学测试算例——ZDT测试问题集对耦合方法的收敛性进行了测试,证实由于神经网络的泛化误差的存在,NSGA-Ⅱ的优化结果易陷于局部最优。本文提出了一种改进的拥挤距离,可以有效改善原方法跳出局部最优的能力。同时采用一种coarse-to-fine的迭代策略,通过CFD模拟、神经网络训练和优化三者之间的迭代,逐步提高训练样本的质量,进而提高人工神经网络的预测精度,使优化结果逐步逼近真实的最优前沿。数学测试算例的结果验证了改进策略的有效性。在多目标气动优化的框架经过良好验证的基础上,以NASA Rotor37为模型进行了实际的透平机械的优化。首先进行了多个工况点的气动优化,获得了最优解集。经过多属性决策选择的优化结果,其气动性能好于采用加权法的单目标优化结果。然后对Rotor37进行了在出口压力为不确定性条件情况下的鲁棒优化。不确定性方法采用了非嵌入式概率配点方法,与CFD模拟进行耦合,获得了Rotor37的气动性能参数的概率特性和流场内流动参数的概率特性。优化结果较原设计在总体性能上有较大提高,而对出口压力变化的敏感性却有一定程度的降低,从而提高了设计的鲁棒性。基于数值模拟的气动分析与优化已成透平机械设计的重要手段。如何提高CFD模拟的可信度、发展鲁棒性的多目标优化算法等研究将是非常有潜力的发展方向。本文在结论与展望部分亦对此进行了探讨。