这篇论文的主要目的是讨论带限制的倒向随机微分方程的一些性质和应用.这种限制是很一般的,可以同时包括BSDE解的两部分（状态和鞅部分）,也可以是非凸的.倒向随机微分方程是随机分析中的一种很有用的工具,它和许多其他的相关领域（比如随机最优控制和金融数学）都有着很密切的联系.给定一个概率空间（Ω,F,P）和在该空间上定义的d维布朗运动W（t）,记{（Ft）；t∈[O,T]}为由W（t）生成并由P完备化的信息流,P为Ω×[0,T]中的可料集合组成的σ-域.我们用LT2,（Rd）表示所有满足的FT-可测随机变量ξ：Ω→Rd组成的空间,HT2（Rd）表示所有满足的可料过程φ：Ω×[0,T]→Rd组成的空间.Snκ表示所有满足E（sup0≤t≤T||φ||k）<∞,k∈N的（Ft）-循序可测过程φ：[O,T]×Ω→Rn组成的空间.Sci2表示所有满足A（0）=0,E（A2（T））<∞的右连左极单调递增（Ft）-适应过程A[O,T]×Ω→[0,∞)组成的空间.在[O,T]上的倒向随机微分方程定义为其中ξ∈LT2,（Ω）,*是Rd中向量的转置.为使上述方程的适应解存在,生存元g（ω,t.y,z）：Ω×[0,T]×R×Rd→R通常要求满足如下假设：（Al）|g（ω,t,y2z2）-g（ω,t,y1,z1）|≤M（‖z2-z1‖+|y2-y1|）,（?）（ω,t）∈Ω×[0,T]：及（A2） g（·,0,0）∈HT2（R）.有时我们还要假设（A3）g（·,·,0）三0.在经典的倒向随机微分方程理论中,在（A1）和（A2）假设下,E.Pardoux, S.G.Peng[9]证明了（0.0.1）适应解的存在唯一性.在我们的论文中,我们将给（y（t）,2（t））加上限制条件使其只能在预先设定的区域内存在.我们将研究这种解的一些性质和应用.我们的限制和S.G.Peng[54]中一样由函数砂（t,y,z）[0,T]×R×Rd→R+确定,这个函数满足和9一样的一些条件.受限倒向随机微分方程的想法来自于非完备市场情形下期权的对冲和定价问题.在非完备或更一般限制市场中,对冲某个期权的相应的财富过程通常为某个给定概率下的上鞅,因此,在一般的情形下,我们必须考虑倒向随机微分方程的g-上解.我们称一个三元组合（y（t）,z（t）,κ（t））为一个满足终端条件yT=ξ的受限倒向随机微分方程的解,如果下面方程和成立.对任意给定的ξ∈LT2（Ω）,我们用Hφ（ξ）表示所有满足限制条件（C）和方程（0.0.2）的三元组合（y（t）,z（t）,κ（t））所组成的集合.注意到对给定的ξ∈LT2（Q）,Hφ（ξ）可能是空集,也可能包含多个元素.如果它是非空的,我们主要是考虑其中的最小解.最小解的定义在第一章定义1.2中给出.它通常用εtg,φ（ξ）来表示并有时称作为gΓ-解.受限倒向随机微分方程的最小解的原型来自于非完备市场的期权定价和对冲问题.也正是受这种思想的启发,在H.M.Soner, N.Touzi [23]中,作者考虑了一种随机目标问题,粗略地说,就是给定一个随机变量ζ作为目标,在满足一定的限制的前提下,作者想寻找一条随机轨道在终端时刻到达它.在这样的框架下,作者获得了一种新型的动态规划原理.带限制的倒向随机微分方程是个很有意义的问题，因为它和很多其他有意思的数学领域,比如生存性、奇异控制、非线性优化等都有一些联系，但也有些细微的差别.生存性可以简单地解释为要求某个微分方程或微分包含的解限制在一个事先给定的集合内,也就是说，如果y（t）是一个方程或包含的解,那么我们就要求y（t）∈κ对t∈[0,T]成立.在生存性理论中,有很多重要的概念可以用在受限倒向随机微分方程中.随机生存性方面的研究往往都是在正向的框架下进行的,可参考J.P.Aubin [36]对倒向随机微分方程解的y（t）部分生存性的研究首先出现在R.Buckdahn, M.Quincampoix, A.Rascanu [51]中,在该文中,作者通过要求y（t）∈r定义了一种倒向随机生存性（BSVP）,其中（y（t）,z（t））是倒向随机微分方程的解,r是一个闭凸集.而在Z.WU, Z.Y.YU [71]中,作者则考虑了关于z（t）部分的生存性.由R.Buckdahn, M.Quincampoix, A.Rascanu [51],如果BSVP对某个集合r成立，那么这个集合必定是凸集.带限制的倒向随机微分方程可以看成是BSVP的推广,因为我们要求（y（t）,z（t））∈Γt,这里rt：={（y,z）|φ（t,y,z）=0}依赖于时间并且同时考虑了y（t）部分和z（t）部分.在受限制的倒向随机微分方程的分析中,我们通常将终端值视为一个巴拿赫空间的变量,并把εtg,φ（ξ）视为定义于其上的一个泛函.从这个观点来说,我们就可以利用非光滑分析中的工具和方法,用倒向随机微分方程的理论来研究一些带限制的优化问题.在确定情形下,巴拿赫空间的带限制的优化问题已经有很多的结果,但是对于随机的情形,在倒向随机微分方程的框架下,类似问题却考虑的不多.本文正是想弥补这个空缺,做个简单的尝试和开始.鉴于连续性在优化问题中的重要性,我们首先将在第二章考虑带限制的倒向随机微分方程的连续性.这些结果对我们以后的研究很重要也很有帮助.我们首先证明了εtg,φ（ξ）在其定义域内的下半连续性.这个结果将有助于我们解决优化问题的解的存在性以及寻找相关的充分必要条件.其次,我们证明了εtg,φ（ξ）是从下方连续的,也就是说如果{ζn}1∞是一个单调上升收敛于ξ的序列,并且Hφ（ξ）≠（?）,那么εtg,φ（ζn）将会单调上升收敛于εtg,φ（ξ）.这个结果是很有意义的,因为如果我们通过ρ（·）：=εtg,φ（（?））定义一个风险度量,那么它就满足很重要的Fatou性质，请参考E.R.Gianin [8]和F.Delbaen, S.G.Peng, E.R.Gianin [13].在本文的很多证明中,我们的分析都基于得到gΓ-解的一种惩罚方法.对任意n1,2,…,我们让gn=9+nφ并考虑以gn为生存元的倒向随机微分方程,由比较定理,{yn,n=1,2,…}是一个递增序列.如果Hφ（ξ）非空,那么由S.G.Peng[54],它收敛于最小g-上解.由于只是有界变差增过程加入到倒向方程的上解当中,所以带限制的倒向随机微分方程的连续性一般都是在半定的意义下成立,即从下方连续或下半连续.我们更详细地把结果叙述如下，定理0.1（从下方连续）.如果g（t,y,z）:[0,T]×R×Rd→R和φ（t,y,z）[O,T]×R×Rd→R+都满足假设条件（A1）和（A2）,{ξ∈LT2（P）,n:1,2,}是一个单调上升收敛于ξ∈LT2（P）的序列,Hφ（ξ）非空,那么将εtg,φ（·）视为定义于LT2（Ω）上的一个泛函,我们记它的有效定义域为D：={ζ∈LT2（R）|-∞<εtg,φ（ξ）<∞}并假设D（?）LT2（R）为闭集.对任意k∈R,我们定义εtg,φ（ξ）的k-水平集为用上述记号,我们有定理0.2（下半连续性）.假定φ（t,y,z）[0,T]×R×Rd→R+和g（t,y,z）[0,T]×R×Rd→R均满足假设（A1）,（A2）,那么对任意的k∈R,Ak在范数拓扑下为LT2（R）中的闭集,因此εtg,φ（ξ）是下半连续的.除了上述的一些结果外,我们还可以证明在凸的情形下,gΓ解在其定义域的内部是连续的.这主要是基于凸分析的一个众所周知的结果,既凸函数在其定义域内连续当且仅当其下半连续.我们有下面结果.定理0.3.假定g（t,y.z）和φ（t,y,z）是满足（Ai），i=1,2的凸函数,那么εtg,φ（ξ）在D内依范数连续.由惩罚方法,我们很容易证明,如果带限制的倒向随机微分方程的系数是凸的,那么gr-解也是凸的.我们将在第二章通过一个反例说明在非凸情形下,连续性可能不成立.最后,我们考虑t≠0时的连续依赖性.取D中的序列{ζn，n=1,2…},则我们有定理0.4.假定φ（w,t,y,z）:Ω×[0,T]×R×Rd→R+和g（w,t,y,z）:Ω×[0,T]×R×Rd→R均为满足条件（Ai）,i=1,2的凸函数,ζn,ξ∈D,那么当E|ζn-ξ|2→0,n→∞时,上述定理告诉我们,我们可以不要求{ζn∈LT2（P）).n=1,2,…)的单调性而只要求ζn≤ξ和ξn→a.s.,定理0.1的结论仍然成立.推论0.1.假定函数g（t,y,z）和φ（t,y,z）满足假设条件（Ai）,i=1,2.如果序列{ζn∈LT2（R），n=1,2，…}依L2范数收敛于ξ∈LT2（R）并且ζn≤ξa.s.对任意n成立,那么我们有对于带限制的倒向随机微分方程来说，确定其定义域是件很困难的事情,也只有在定义域内,我们的研究才有意义.在本文中,我们始终假设其定义域为FT2（R）中的闭集.尽管定义域的确定是很困难的,我们还是可以在一定的假设之下,保证定义域足够大以至于包含了整个本质有界变量空间L∝（F）,请参考我们第三章的证明或S.G.Peng, M.Y.Xu[57].由比较定理,K（t）在带限制的倒向随机微分方程中的作用,是把y（t）部分向上推移.一种有趣的限制就是要求y（t）始终位于一个给定的障碍L（t）之上.在这种情形下,如S.G.Peng, M.Y.Xu[58]所示,由于Skorohod条件的作用,带限制的最小解和以L（t）为反射壁的反射解是相同的.反射倒向随机微分方程首先由N.E1Karoui etc[43]开始研究,利用它可以很容易找到最优停时问题的解.反射方程中同样带有一个增过程来向上推动BSDE,并且它的首次推动时刻即为一个最优停时.另一方面,很多文章研究了停时问题和奇异控制之间的联系.但是细心的读者将会发现,奇异控制是左连右极的,而在带限制的倒向随机微分方程中的增过程是右连左极的.然而,尽管有这种细微差别，它们在最优停时问题中的作用却是一样的.S.G.Peng [55]通过BSDE定义了一种非线性g-期望.g-期望下的最优停时问题和反射BSDE有着紧密联系,这方面可以参考N.E1Karoui etc[43],F.Riedel, X.Cheng[17].而S.G.Peng, M.Y.Xu[57]则更进一步研究了带限制的反射问题.在本文中我们也将考虑带限制的最优停时问题.为了使问题有意义,我们假设对任意t∈[0,T],报酬过程L（t）∈L∝（Ft）,这样εtg,φ（L（（?）））对每个停时（?）就有定义.由于市场的模糊性或模型不确定性,非线性期望下的最优停时问题的研究越来越多.在离散的情形下F.Riedel[16]研究了多个概率下的最优停时问题V.Kratschmer, J. Schoenmakers[64]则考虑对一般动态效用函数的停时.这些动态效用函数满足时间相容性,但不必满足严格比较定理.在连续时间情形下,F.Riedel, X.Cheng[17]考虑模糊情形下的停时,模糊性用9-期望来表示.在该文中,作者利用了在9-期望下的Snell包络理论E.Bayraktar, S.Yao[6]则研究了在一族满足稳定性的F-期望{εi}i∈I（它们的定义可以参考F.Coquet, Y.Hu, J.Memin[18]）下的停时问题.这一族期望有一个共同的定义域.作者考虑最优问题和其中SO,T表示所有取值于[O,T的停时,{（Yt+Hti）,i∈I}是依赖于模型的报酬过程.当模糊性和限制同时考虑的时候，我们将在第三章考虑由带限制的BSDE诱导的gr-期望下的停时问题.研究这个问题的难点来自两个方面,一是带限制的BSDE缺少很好的连续依赖性,另一个则是限制情形下一般没有严格比较定理.关于这两点,我们都将会在正文种用反例来说明.但是,由第二章我们获得的连续性,我们仍然可以证明.在一定的假设下,如下定义的L（t）的Snell包络在gΓ-期望下是一个gΓ-上鞅.依照解决最优停时的经典方法,我们下一步是要得到V（t）的一个右连左极修正.在线性期望或g-期望意义下,严格比较定理在证明修正问题时起了重要作用,然而这样的比较性质在限制情形却一般是不再成立的.因此我们需要寻找一种新的途径来克服这个问题.幸运的是,我们发现,由惩罚方法,由于V（t）是一列右连左极gn-上鞅的极限,由S.G.Peng[54]中的极限定理可得V（t）的右连续性.对于如何去克服连续性缺陷带来的困难,我们就要假设L（t）关于时间t是单调递增的,或者我们假设gr-期望为凸.在一定的假设下,我们有如下结果.定理0.5.假定g，φ：[O,T]×R×Rd→R满足A（i）,i=1,2,3.L（t）是L∞（FT）中的非负适应过程,如果它关于时间是递增的或gΓ-期望为凸,那么Υ*就是（0.0.4）的一个最优停时,其中Υ-*：=inf{t≥0：L（t）=V（t）}.除单边反射BSDE外S.G.Peng,M.Y.Xu[58],S.Hamadene,J.P.Lepeltier[60]研究了双边反射BSDE在J.Cvitanic,I.Karatzas[33]中,作者探索了双边反射BSDE和停时对策（Dynkin’s对策）的联系.受该文启发,我们将在第四章中研究带限制的停时对策问题.我们定义g-期望下的上下价值函数如下,和其中R(Τ，σ：=L（Υ）1（T≤σ）+U（σ）1（,<T）,Tt是取值于t和T之间的停时集合,εtg（·）是由BSDE诱导的g-期望.Dynkin对策可以解释为博弈双方为了自己的利益而努力寻找对他们各自最好的停时策略.更具体点说,玩家A有权去选择停时Υ,而玩家B则有权去选择停时σ.当Υ和σ被选定后,玩家B支付给玩家A的费用为R(Υ,σ.玩家A的目的是要使得这样的费用最大,而玩家B则是想办法使其最小.对策的解为一组停时（丁’,σ*）,在这组停时下,要求双方达到均衡,即任何一方都不能通过单方面改变自己的策略而获得更多的利益.用数学的语言来说,就是对任意的丁，σ∈Tt,这样的（Υ*,σ*）被称为一个鞍点.尽管我们问题的价值函数与鞍点和J.Cvitanic,I.Karatzas[33]中一样,问题的本身却不一样.这并不能说明我们的问题没意义,因为在他们的文章中,期望是线性的并且报酬函数有一个积分项.具体的细节可看正文的第四章.我们也考虑了相应的限制情形下的停时对策问题.这时,相应的上下价值函数定义为V（t）=ess inf σ∈t ess supΥ∈Ttεtg,φ[R（Υ,σ）],（0.0.8）其中R（τ,σ）:=L（τ）1（τ≤σ）+U（σ）1（σ<τ）,Tt是取值于t和T之间的停时集合,εtg,φ（·）是由带限制BSDE诱导的gΓ-期望.和停时问题一样,受限情形下的gΓ-期望的不连续性是我们解决问题的主要困难之一.我们仍然是通过假设L（t）关于时间的单调递增性来克服这个问题.在限制的情况下我们有相似的结果.定理0.6.假定g和φ满足（A1）,（A2）和（A3）,L（t）和U（t）是非负适应过程,并且存在一个常数B>0,对任意t∈[0,T],L（t）≤B,U（t）≤B成立.如果L（t）关于时间是单调增的,那么就存在一组停时（Υ*,σ*）是Dynkin对策问题（0.0.7）和（0.0.8）的鞍点.在第五章中,我们用终端摄动方法来研究带限制的优化问题.我们的讨论主要是建立在非光滑分析的一些结果之上.我们用BSDE的方式来描述财富过程,这种方式有助于我们通过用终端摄动方法来解决最优投资问题.这种方法首先在T.R.Bielecki,H.Jin,S.R.Pliska,X.Y.Zhou [63]中使用并在S.L.Ji,S.G.Peng[62]中用来处理初值受限的最优投资问题,作者利用Elkland变分原理获得了最优投资的一个必要条件,即一种形式的最大值原理.在本文中,我们在更一般的限制条件下,利用非光滑分析的理论获得一些类似的必要条件.假定投资者有初始财富x,他利用这些财富在市场中进行投资,财富过程和资产组合过程满足和φ（t,yt,zt）=0.他的投资策略（zt,Ct）由所有可能的终端变量决定.容许取值的集合被定义为我们的问题为其中ρ（·）是定义于LT2（R）上的函数,通常它代表一个风险度量,但是在我们的文章中它可以是更一般的Lischitze函数.基于非光滑分析的一般结果,我们得到上述优化问题的一个必要条件定理0.7.假定ρ（·）与εO,Tg,φ（·）均为定义域上的Lipschitz函数.如果ξ*是问题（0.0.9）的一个解并且0（?）°0g,Tφ（ξ*）,那么对某个非负实数λ≥0,存在ζ∈（?）ρ（ξ*）η∈（?）°ε0g,Tφ（ξ*）使得ζ+λη=0.当不存在其他限制（除初值限制外）,即φ三0时,εt,Tg,φ≠（ξ）便是BSDE的解.由BSDE解的先验估计,ξtg,Tφ（ξ）是Lipschitz函数.更进一步,由BSDE的严格比较定理,对任意ξ∈LT2（R）,0（?）°ε0g,Tφ（ξ）详细的证明参看论文相关章节.因此在S.L.Ji, S.G.Peng [62]中的框架下,上述定理的所有假设都满足,从而我们的结果可以看成是S.L.Ji, S.G.Peng [62]的一种推广,因为我们的生存元可以是一般的Lipschitz函数.