光束在非线性介质中传播时，如果非线性效应恰好能和衍射效应相平衡，光束在传播过程中保持形状不变，那么这一光束就称为光学空间孤子。由于光学空间孤子在全光开关、光波导、光计算等方面有重要的应用价值，目前它已成为非线性光学领域的研究热点之一。本论文从理论上系统地研究了傍轴及非傍轴近似条件下数种非线性介质中光学空间孤子，对有关一些应用也进行了研究。 论文证明了在折射率改变为正的光伏晶体中可以形成灰孤子。研究表明，灰孤子宽度、横向总相移、横向运动速度以及孤子稳定性强烈依赖于光束灰度、光强振幅、信号光与背景光的有效Glass系数之比R等参数。另外，论文还对光伏晶体中的非相干耦合灰孤子族及相关特性进行了研究。 论文详细地研究了双光子异构聚合物灰孤子及其稳定性。结果表明，灰孤子能在这种非线性介质中存在：在某些参数范围内，此类孤子的总相位变化可以超过万，这就是所谓的“比黑孤子还要暗的孤子”。这些灰孤子只有在高光强且横向速度较小时才有可能变得不稳定。据我们所知，这是关于双光子异构聚合物孤子的首例报导。 各种光学空间孤子存在着诸多共性，因此可以将光学空间孤子的理论推广到一般的情况。基于这一点，本论文提出了一套一维稳态条件下宽光束的调制不稳定性和光学空间孤子的普遍理论。通过宽光束调制不稳定性的一般理论，可以很方便地计算出宽光束在任意非线性介质中的调制不稳定性。而通过光学空间孤子一般理论，可以知道在给定的非线性介质中能形成何种光学空间孤子(亮、暗还是灰孤子)。我们明确地指出亮、暗、灰孤子的形成条件不是依赖于折射率改变的正负，而是依赖于折射率改变随光强的变化趋势。前面的这些研究都是基于傍轴近似下的理论。当光束聚焦到亚波长大小甚至更小时，非傍轴效应的贡献就显得十分重要。本论文研究了非傍轴线偏振孤子及其相互作用。数值模拟表明，临近的光束两两反相时，光束总是表现为互相排斥，而当光束互为同相时，它们首先互相吸引甚至发生融合，但经过一段传播距离后，随着它们本身的相位差发生变化，相互作用行为变得非常复杂。接着，论文又研究了圆偏振及轴向偏振光学空间孤子的存在性。这两种偏振状态的非傍轴涡旋孤子在无穷远的光强都不能超过某一个有限值，且轴偏振涡旋孤子所带的拓扑荷数目不能少于2。 在应用方面，本论文研究了空间相位调制对光伏孤子传播的影响，研究表明，通过空间相位调制可以导致光偏转、光束类孤子状传播、光开关、光分束等非常有趣的现象，这在全光开关、光调制器、光分束器等光通信器件上有重要的应用。