最优控制的主要思想是根据已知被控制对象的模型,从容许的控制方案集合中选择使得控制对象能从某一初始状态运行到某一既定的状态,并且实现性能指标最优的控制方案。H2最优控制和H∞优化控制由于其各自的优点分别得到了广泛的关注和研究。H2最优控制能够使系统具有较快的响应速度以及其它一些良好的特性,但是对被控系统的外部扰动或者建模误差导致的不确定性缺乏鲁棒性。H∞控制虽然对系统存在的一些不确定性因素具备良好的鲁棒性特征,却牺牲了其它的系统性能。鉴于此,混合H2/H∞控制被提出来,混合H2/H∞控制结合两种控制方法的优势可以使系统在有界的扰动下保持鲁棒稳定性,此外,能令系统保持较快的响应等。现阶段求解该问题仍然存在挑战性,所以在众多前人的解法中出现对混合H2/H∞控制问题做简化或者变形等处理的现象,将原问题转变为Nash博弈策略的最优控制问题,有些则通过设定某些限定性条件或者假设,将混合H2/H∞控制转换成为LMI问题或者Riccati方程问题等。本文首先把混合H2/H∞控制问题等价的转换为求解斯塔克尔伯格(Stackelberg)优化控制问题,得到该问题的最优解,同时把得到的成果应用到时滞系统与随机系统情形,同时,在性能指标控制加权矩阵半正定的情况下得到混合H2/H∞控制问题的闭环解。主要章节安排和所取得的创新成果如下:第一章,给出本研究内容的理论及应用背景和研究现状。指出混合H2/H∞控制在理论和实践中的重要意义,阐述已有研究取得的成果以及当前存在的一些问题。第二章,研究混合H2/H∞的Stackelberg博弈开环控制问题。将混合H2/H∞控制问题等价的描述为领导者-跟随者(Leader-follower)最优控制(Stackelberg博弈控制),其中控制输入作为领导者,干扰项作为跟随者。把最优控制理论中的分析方法带入到Stackelberg控制,基于极大值原理,定义伴随状态变量获取控制输入未来的策略,首次得到了H2/H∞开环控制唯一可解的充分且必要条件,在标准假设下,通过解耦且对称的Riccati方程的解得出最优开环控制器的解析解。第三章,研究具有输入时滞的混合H2/H∞的Stackelberg博弈开环控制问题。得到该研究内容唯一有解的充分且必要性条件,与此同时得到最优开环控制器的解析表达式。定义伴随状态变量获取控制输入未来的策略,并且引入一种新的状态变量来获取过去的影响,克服了系统中输入时滞引起的非因果性。第四章,研究状态、控制输入以及扰动输入中同时具有乘性噪声的随机离散时间系统混合H2/H∞控制问题。基于确定系统的结果,通过应用随机极大值原理提出随机正倒向差分方程(FBSDEs)的求解方法。进而引入一个新的伴随状态来得到该FBSDEs。根据解耦的Riccati方程的解给出该FBSDEs的解,结合分析得到Leader-Follower随机差分对策的开环解即开环控制器,从而解决了乘性噪声随机系统混合H2/H∞开环控制问题。第五章,针对系统指标函数中的控制加权矩阵是半正定情形的混合H2/H∞控制问题,根据引入的标准正则Riccati方程给出混合H2/H∞半定控制的一类闭环解。关键技术在于两步优化过程:第一步,在H∞优化中得到最优控制器(u,w),考虑到系统性能指标中控制加权阵半正定的性质,该控制器u中存在任意项;第二步,通过矩阵变换,将上一步取得的控制器中的任意项转化为在H2优化过程中待求的控制器。结合H∞优化过程以及H优化过程,在正则假设下,得到混合H2/H∞半定控制问题的闭环解。