多目标优化问题（Multiobjective Optimization Problems,MOPs）普遍存在于科学研究、工业生产以及金融投资等各个领域。在这类问题中,多个优化目标需要同时进行优化,且各个目标之间存在一定的冲突性,即一个目标性能的提升会导致其它相应冲突目标性能的退化。因此,MOPs不存在唯一解使所有目标同时达到最优,需要利用Pareto最优解集来平衡各个目标的性能。进化算法（Evolutionary Algorithm,EA）是人工智能中进化计算的子集,启发自自然界生物的进化机制,通过模拟繁殖、突变、遗传重组、自然选择等进化过程来迭代搜索最优解。因其采用基于种群的随机优化具有较强的全局搜索能力,已经被广泛地应用于求解MOPs。大量研究表明,EA能够高效地优化2维和3维MOPs,但是在大于3维的高多目标优化问题（Many-objective Optimization Problems,MaOPs）中表现不足。因此,利用多目标进化算法解决MaOPs的研究成为智能优化领域的热点之一。另外,在智能优化领域中,根据实际应用中的MOPs的特点设计有效的多目标进化算法求解器的研究也极具实际应用价值。本文主要围绕设计进化算法求解MaOPs以及实际优化问题两个方面展开,主要的研究工作及贡献如下:（1）研究一种支配准则提高基于Pareto支配算法在优化MaOPs时的收敛能力。基于Pareto支配算法主要利用Pareto支配准则引导种群往优化问题的Pareto前沿上收敛,但是该准则的支配强度受到问题的目标维度的影响。随着目标维度的增加,其支配强度呈指数递减。针对此难点,本文提出了角度支配准则,首先为种群中每个解构造一个角度向量,然后对角度向量进行支配比较。本文证明了角度支配准则的Pareto完备性,可以替代Pareto支配准则作用于Pareto支配算法。实验验证了角度支配准则在优化MaOEAs具有良好的支配能力。（2）研究一种多样性保持机制来平衡基于Pareto支配算法在MaOPs中的收敛性和多样性。基于Pareto支配算法利用多样性保持机制维持种群的多样性。当Pareto支配准则在高维目标空间失效时,多样性保持机制就成种群的主要选择策略。传统的多样性保持机制偏爱稀疏区域的解,这类解具有较差的收敛性。因此,该机制无法平衡种群的收敛性和多样性。针对此难点,本文提出了一种基于预处理和邻域惩罚的多样性保持机制,预处理删除远离Pareto前沿的支配抵抗解,邻域惩罚在预处理后的解集中选择一组靠近Pareto前沿的多样性解。实验验证了该机制能够提高基于Pareto支配算法平衡种群的收敛性和多样性的能力。（3）研究一种自适应参考点更新策略提高基于分解算法处理高维和非规则Pareto前沿的问题的能力。基于分解算法利用一组预定义参考点来引导种群在目标空间搜索。参考点集生成的常用方法为单纯型法,该方法能够通过组合排列在超平面内产生一组均匀参考点。该参考点集适应于求解低维的规则Pareto前沿问题,但无法求解高维和非规则Pareto前沿的问题。原因在于该方法是在规则平面上生成均匀点集,且生成的参考点在数量上存在“维度危机”。针对此难点,本文提出一种自适应更新策略生成一组适用于高维和非规则Pareto前沿的问题的参考点。该自适应更新过程主要包括四个步骤:首先删除无效参考点、然后添加稀疏解、另外生成稀疏解对应的参考点、最后是对参考点的微调。实验结果表明该策略能够提高基于分解算法优化高维和非规则Pareto前沿的问题的能力。（4）研究一种多目标进化算法提高强化学习在自我博弈训练中的探索能力。在自我博弈中,智能体每次选择历史模型作为对手进行博弈,并利用博弈中产生的有效样本数据进行学习。由于智能体在强化学习训练后获得的是针对其历史模型的策略,因此在训练过程中很难获得良好的探索。针对此难点,本文提出一种多目标进化强化学习算法,利用EA的随机过程来提高强化学习在自我博弈训练中探索多样化行为的能力。同时本文还构建了一个二目标优化问题使得水平相当且风格各异的智能体在目标空间互不支配。在Pong和Justice Online环境中的实验表明,该多目标进化强化学习模型能够极大地提升智能体的水平。