我们首先从倒向随机微分方程理论说起（backward stochastic differential equations简记作BSDEs）.众所周知,Bismut在处理一个最优随机控制问题时第一次提出线性形式的BSDEs [4],然后Pardoux-Peng在著名的[92]中的工作揭开了一般形式的BSDEs研究的序幕,Pardoux-Peng在标准的Lipschitz条件下证明了此类方程解的存在唯一性。到目前为止,该领域的学者专家已经揭示了BSDEs理论和其他研究领域之间深刻的联系,这些研究领域包括偏微分方程（PDEs）,数理金融,随机控制和随机微分博弈,随机数值分析等。不久之后,注意到BSDEs理论在随机递归效用模型中的应用前景,许多工作致力于研究正倒向随机微分方程（简记作FBSDEs）其中正向过程X和倒向部分Y以上面的方式耦合在一起,不同情形下的FBSDEs解的存在唯一性可以通过不同的方法分别得到证实（请参考Antonelli [1], Delarue [26], Ma-Protter-Yong [82], Hu-Peng [56], Yong [149]等文献）.从BSDEs建立之初,该理论就在随机分析领域流行甚广,尤其是和金融数学有着千丝万缕的联系（参考El Karoui-Peng-Quenez [41],El Karoui-Quenez [42], Chen-Epstein[16], Delbaen-Peng-Rosazza Gianin [35], Duffie-Epstein [29], Cvitanic-Karatzas [23]引相关文献）,这种紧密的联系来源于倒向随机微分方程所拥有的对金融数学家特别有用的倒向结构。例如很多投资问题就是来寻找满足未来收益目标ζ的交易策略,而BSDEs恰如其分描述这类问题并且在很少的条件下能够提供问题的唯一解。BSDEs解的主要部分Y.形成一种非线性的鞅,基于这种观察Peng引进了g-鞅的概念进而提出一般意义下的9-期望（g标明的是BSDEs的生成元）,特别的,g-鞅的Doob-Meyer分解仍然成立[105].由于非线性g-期望只有给生成元施加很强的条件才能保证凸性,而凸性是相容性风险度量的一个主要特点,结合最近兴起的相容性风险度量概念,Peng提出用G-期望理论来替代g-期望。注意到下面的完全非线性PDE在[0,∞)×Rd的内正则性质,其中初始条件为提出了一种时间相容的次线性期望E,也被称为G-期望。该理论已经成为随机分析和金融数学领域的中心问题之一这套框架之所以能够吸引如此多的注意的原因包括但不限于下面几点,●建立了一种完全非线性的Feymann-Kac公式。●将Knightian不确定性和模型不确定性纳入考虑范围。●作为一种相容性风险度量工具,它可以由一族相互奇异的鞅测度表示出来。在G-期望框架中,相应的G-Ito随机分析的基础已经在典则空间空间中得以建立,尽管所有的叙述都是拟几乎处处的（quasi surely）而非几乎处处（almost surely）,因为存在一个对应G-期望的自然容度。为了与经典随机分析中的符号加以区分,所有G-期望的结论或者概念都被冠以G的前缀。Peng用范数扩张的办法系统地处理了这个框架中的主要问题,例如建立了G-布朗运动的二次变差过程的概念,证明G-Ito公式,讨论了G-SDEs的适定性,研究了G-鞅表示定理。当然至今仍然有些问题没有解决,感兴趣的读者可以参考[115]或者Peng在ICM 2010做的大会报告[116].从那以后,既然鞅表示定理可以看作一种简单的BSDEs, G-BSDEs在Lipschitz条件下的解的存在唯一性也被证明成立。不熟悉以上结果的读者,我们推荐参考文献Peng [115], Peng-Song-Zhang [120], Denis-Hu-Peng [30], Gao [47], Hu-Ji-Peng-Song [52,53], Li-Peng [75], Epstein-Ji [44]. G-BSDEs理论可以看做经典BSDEs理论在非线性期望下的推广,与此同时二阶倒向随机微分方程（缩写为2BSDEs）从另外一个角度推广了BSDEs理论,当然这两种推广的结果所导致的Feynman-Kac公式是一致的（请看参考文献Soner-Touzi-Zhang [134,135,136]）. Marcel Nutz 的工作[87,88]进一步去掉了一些技术假设,创造了随机G-期望和对所有Borel可测映射的条件G-期望,这些结果的提出有赖于G-期望理论和2BSDEs理论之间的比较。在他的ICM 2010大会报告中,Peng首先倡导一种路径依赖的PDEs的概念来为非马尔科夫的BSDEs提供概率解释,到目前为止至少有三种方案来实现这一想法,Peng-Wang [121]利用Dupire导数对光滑的路径依赖拟线性抛物型PDEs提出一种崭新的Feynman-Kac公式,Ekren-Touzi-Zhang [38,39,40]利用最优停时技术针对完全非线性抛物型PDEs提出路径依赖的粘性解的概念并用来解决此类方程,Peng-Song[119]构造一个新的Sobolev空间并证明BSDEs和路径依赖完全非线性PDEs的等价性。此博士论文处理G-期望理论中的若干问题。注意到Hu-Ji-Peng-Song关于G-倒向随机微分方程的工作[52,53],我们想知道完全耦合的G-布朗运动驱动的正倒向随机微分方程解的适定性。该问题的背景植根于期望效用理论,在G-框架下考虑该问题本质上就是考虑模型不确定情形下的期望效用。经典的处理方法有很多,连续性方法无法解决此类问题,我们采用的是Delarue [26]的思路。我们的存在唯一性结果只在小时间区间上有效,原因在于,与经典情形相比较,相应的非线性抛物型偏微分方程的粘性解在所考虑的时间区间之内部而非边界具备足够的光滑性而且至今G-期望理论的控制收敛定理是否成立仍然存疑,所以将局部解粘合为整体解的过程变得非常困难。然后我们研究G-扩散过程的不变和遍历期望,以期获得某些随机过程的平衡状态的描述。我们的结果证明G-布朗运动驱动的Ornstein-Uhlenbeck过程的唯一不变期望是G-正态。当我们比较遍历期望和不变期望时,发现两者在非线性期望框架下是不同的概念。G-期望理论的另一个重要特点是有界Borel可测不一定意味着可积,实际上可积性要求被积函数满足额外的拟连续性条件。在处理诸如初始条件为示性函数的G-热方程时候,一个自然的问题就是对应热方程的解是否在非线性期望讨论的范围内,我们第三章讨论区间的示性函数是否可积这样的问题,特别地我们证明了初始条件为示性函数时,对应的解仍然是有意义的,这样相应的计算就成为可能。此论文的第一章致力于研究G-FBSDEs的适定性问题,这一部分可以看作是[52]的继续。更确切地说,我们将要讨论如下由G一布朗运动驱动的随机微分系统的解的存在唯一性,我们只对系数做简单的Lipschitz和线性增长性假设,（H1.1） （i）假设对任意的常数于是方程总有解Xy.我们进一步假设对任意的（y’,z’）∈Rn×Rn×d,生成元满足（ii）存在严格正的常数κ满足对所有的t∈[0，T],本章的核心结果报告如下,定理0.1.假设（H1.1）成立,那么对任意小的常数ε>0,均存在一个仅依赖于κ的常数Ck（1）,满足使得方程（0.0.1）在6GG2,ε（0,T）中存在唯一解,其中要求参数T≤Ck（1）,请注意上面的X,Y,Z,K所属的空间不是齐次的,也就是说我们要求Z,K这两部分的阶次严格小于X,Y的阶次。这点其实来自于我们证明思路所限,因为我们首先针对X,Y构造压缩映像,然后由于范数被X,Y的范数控制,我们得到Z,K在各自空间的存在唯一性,熟悉G-BSDE解的存在唯一性证明的读者不会对此感到奇怪。关于我们的问题,有几点需要澄清。我们没有在正向方程中包含Z这一变量,正如评论1.1所表明的一样,如果只对正向方程的扩散系数σ施加对于Z的Lipschitz 条件,那么系统将会有无穷多个解。而例子1.2显示仅在我们的假设条件下整体解一般是不存在的。当我们回顾Delarue[26]的工作,我们猜测当终端函数Φ具备足够的光滑性时,系统可能存在整体解,如果我们注意到Delarue证明依赖对应PDEs解的梯度的整体估计。如果我们进一步假设线性增长条件,（H1.2）除了条件（H1.1）外,所有的函数b,σ,Ψ,9都是确定性函数并且线性增长,也就是说存在某个常数γ满足对所有的对任意的s∈[0,T],结论为Y能够表达为关于X状态的Lipschitz函数,尽管要得到相应的Feynmann-Kac公式还比较困难。命题0.1.假设条件（H1.2）成立,那么存在一个连续函数u满足对所有的以及ζ∈LG2（Ωt）,文章的第二章是关于G-扩散过程的不变期望和遍历期望的探究。经典的Markov过程的逐点遍历定理（比如,Birkhoff-Khinch in遍历定理）重新叙述此情境下的大数定律,断言一些函数沿着某条路径的取值的时间平均值几乎处处收敛到关于不变σ-代数的条件期望,后者是一种空间平均。所以不变测度和遍历性质在经典情形下是连接在一起的,然而在G-期望框架下这两个概念是分离的,所以有必要对G扩散过程引进我们称之为遍历期望（ergodic expectation）的概念。首先我们列出对需要讨论的G-SDEs需要满足的条件,其中b,hij：Rn→Rn,σ：Rn→Rn×d是确定性的连续函数,特别的记Xx=X0,x.（H2.1）存在常数L>0满足不变期望的概念来源于经典的不变测度,经常用来刻画某些过程的平衡状态。对给定的常数p≥1,用符号Cp,Lip（Rn）表示定在在Rn上满足下列条件的函数全体,如果存在仅依赖f的常数Kf使得下面的不等式成立定义0.1.一个定义在上的次线性期望E称为G-扩散过程X的不变期望,如果在上存在一族相对紧的概率测度能够表示E,我们将这族概率测度称为关于G-扩散过程X不变（参考定理2.2）,这族测度表征了初始分布的不确定性。下面的定理证明了扩散过程X的不变测度的存在唯一性,也是这一章的主要定理之一,定理0.2.假设条件（H2.1）和（H2.2）成立,那么上面定义的G-扩散过程X存在唯一的不变期望E。另外对每个f∈C2p,Lip（Rn）,我们有这个定理证实了为何E会被称为“不变测度”。作为一个重要且有趣的例子,我们应用上面的结果验证C-正态分布所对应的期望是G-Ornstein-Uhlenbeck过程的不变期望（参考引理2.5）.当然在引理2.5中,比C2p,Lip（Rn）更大的空间中的元素也可以当做实验函数。可能有人会尝试用更大的空间比如所有的局部Lipschitz函数做成的格Cloc,Lip（Rn）来代替C2p,Lip（Rn）从而得到更一般的结论。此处我们选择使用空间C2p,Lip（Rn）而非使用空间Cloc,Lip（Rn）来叙述我们的问题的原因在于上面的定理中当证明不变期望A的存在性时,我们需要建立一个A[f]和E[f（Xt）]之差的一致的上界来确保问题的紧性,而换做空间Cloc,Lip（Rn）显然会产生一些麻烦。另外表示不变期望的一族概率测度是定义在（Rn,C2p-1,Lip（Rn））上的,结合假设（H2.2）,这样我们才能得到引理2.2.定义0.2.一个定义在空间（Rn,C2p,Lip（Rn））上的次线性期望E称为G-扩散过程X的遍历期望,如果我们有下面的等式同样的,E可以由一族概率测度表示,其中的每个概率测度我们都称之为关于G-扩散过程X遍历的。容易验证结论,或者等价地,粗略点说,这说明遍历期望拥有比不变期望更少的不确定性,特别的我们通过G-OU过程构造的反例2.4说明遍历期望和不变期望这两者并不等价。第三章始于对Lusin定理的进一步考虑,在G-框架中存在Borel可测但是不拟连续的随机变量或者过程（比如,G-布朗运动的二次变差过程的上密度过程a。）,所以在这套理论中所要讨论的随机变量必须要求在LG1中,也就是说必须满足关于G0（[0,∞）；Rd)拟连续。那么什么样的函数是拟连续的,有没有容易判断的例子,我们将在此章中讨论这个问题。首先我们证明G-布朗运动在固定时刻拟几乎处处不击中单点集,也就是说c（{Bt=a}）=0.下面是我们需要的假设条件。（H3.1）存在两个非负常数C和C’满足对每个（t,x）,（t,x’）∈[0,∞)×Rn,我们总有下面的不等式成立,（H3.3）存在两个常数0<λ<A<∞使得对每个（t,x）∈[0,∞)×Rn,总有（H3.4）存在常数L>0使得对每一（t,x）∈[0,∞)×Rn,下面的关系成立,（H3.5）存在两个常数0<7<r<∞。使得对每一（t,x）∈[0,∞)×Rn,总有下面的不等式成立在上面的条件下,我们用X来表示SDEs的唯一解,定理3.7给出了我们所说明的一个零容集,定理0.3.在假设条件（H3,1）-（H3.3）成立的情况下,对任意的T>0我们有更进一步,我们得到定理的证明思路是将要计算的容度大小与满足指数衰减边界条件的PDEs的粘性解加以比较。应用这个定理,推论3.2给出了对称G-鞅位于一个矩形内的容度估计。用概率论的办法我们在某些曲线上得到类似的零容集。结合下面的定理,所有这些准备工作开始显现出意义。上面的定理马上可以得到下面的,我们强调这些结果本质上是通过PDEs技术得到的,就我们所知,至今还不存在证明这些结果的概率方法。本章的第二部分我们研究了MGp（0,T）的拟连续刻画,这类似于LGp（ΩT）0的刻画,其中p≥1.首先我们对循序可测过程引进拟连续的概念,定义0.3.一个循序可测过程η：[0,T]×ΩT→R称为拟连续过程（q.c.）,如果对任意的￡>0,存在一个循序可测开集G （?）[0,T]×ΩT使得c（G）<ε并且限制在开集上ηGc是连续的。所以在G-期望理论中要讨论的过程都要满足下面的刻画,定理0.6.对每个p≥1,接下来我们讨论G-SDEs的Krylov估计,下面的假设将保证上面方程是适定的,（H3.6）存在常数L>0满足对每个t≥0,均有（H3.7）存在一个常数λ>0使得对任意的t>0,总有（H3.8）存在一个常数λ>0满足对任意的t>0,我们有下面的不等式成立类似的Krylov估计对系数有界且非退化的G-Ito过程也成立,实际上我们有下面的,定理0.7.假设条件（H3.6）和（H3.7）成立。而D是Rn中的一个有界区域,τ是一个满足τ≤功的停时,其中τD是过程Xt首次离开区域D的停时。那么对任意的x0∈Rn,T≥0和p≥n,存在仅依赖于p,λ,L,G,T和D的常数N使得对所有t∈[0,T]以及所有Borel可测函数f（t,x）,g（x）,我们有下面的Krylov估计成立类似的估计对贴现无穷时间区间上的过程仍然成立（参考定理3.16）,有限区间也可以得到这种估计（参考推论3.4）.这些估计可以保证Borel可测函数与G-Ito过程X.复合之后具有拟连续性,定理0.8.假设条件（H3.6-H3.8）成立,如果φ是Rn-值的满足多项式增长条件的Borel可测函数,那么对任意的T>0,我们总有（φ（Xt））t≤T∈MG2（0,T）.另外我们还对G-Ito扩散过程得到下面的Ito-Krylov公式。特别的对下面的G-随机变量我们有控制收敛定理成立,那么对每个p≥1,我们有