随着无线光通信需求的增加,激光通信技术得到了飞速的发展,由于无线光通信技术具有不可比拟的优势,在激光通信、空间探测、雷达成像、航空测量、遥感等方面都得到了巨大的进展,拥有十分广阔的应用前景。携带有螺旋形的相位波前分布结构和轨道角动量的涡旋光束由于其独特的光场分布和相位结构,在减弱湍流介质对光束传输的影响方面以及可以用于粒子的捕获、操纵和光存储等方面的独特优势,使得其在不同随机介质中的传输性质引起了学者的广泛研究。基于以上背景,本论文以涡旋光束与随机介质相互作用为主题,对涡旋光束在大气湍流、海水湍流和等离子体等随机介质中的传输性质进行了分析和研究,具体研究内容如下:1.基于广义惠更斯-菲涅尔原理和维格那分布函数的高阶矩理论,研究了部分相干平顶涡旋光束通过大气湍流的传输性质,具体分析了湍流参数和光束参数对部分相干平顶涡旋光束在湍流中的维格纳分布函数和峭度参数的影响,并且对涡旋和非涡旋光束的传输性质进行了分析和比较。模拟表明:与非涡旋光束相比,涡旋光束的维格纳分布函数要小;非涡旋光束在湍流中传输时,峭度参数是不变的,为一个常数,涡旋光束在湍流大气中的峭度参数由于湍流介质的影响而逐渐变大,但是要小于非涡旋光束,光束剖面相较于前者更加平整。2.以具有特殊关联相关结构的多高斯谢尔涡旋光束为例,基于广义惠更斯-菲涅尔原理和维格那分布函数的二阶矩,推导了多高斯谢尔涡旋光束在湍流大气中传输的角扩展和传输因子的表达式,并对光束在湍流中的传输性质进行了分析。分析表明:特殊关联相干结构的多高斯谢尔涡旋光束在湍流中的传输性质要优于传统的高斯谢尔涡旋光束,更适合应用于自由空间无线光通信。3.基于广义惠更斯-菲涅尔原理,研究了部分相干Lommel-高斯涡旋光束在湍流大气中的传输性质,对光束在湍流中传输的光强和光谱相干度的性质进行了理论模拟和仿真。结果表明:在湍流中传输时,随着传输距离的增加,光束特有的的光强分布结构由于湍流介质的影响,最终退化为高斯分布,对称因子对光强分布的调制作用随着传输距离的增加逐渐消失。4.以海洋湍流为例,研究了部分相干Lommel-高斯涡旋光束在海洋湍流中的传输情况,具体推导了光束在湍流海洋中传输的角扩展和传输因子的表达式,对光束在湍流中传输时随光束参数和湍流参数的变化情况进行了模拟和分析。研究发现:在相同情况下,部分相干贝塞尔-高斯涡旋光束与部分相干Lommel-高斯涡旋光束的传输性质相同,对称因子对光束的传输没有影响,部分相干Lommel-高斯涡旋光束由于其特有的光强调节特性相较于前者的应用更加广泛。5.基于WKB方法和傍轴近似,建立了拉盖尔-高斯光束在非线性等离子体中的传输模型。分析了拉盖尔-高斯光束在等离子体介质中碰撞非线性和有质动力非线性机制中的自聚焦传输规律,研究了不同的参数对光束在传输时自聚焦特性的影响。研究结果表明:在相同的传输距离,随着轨道角动量的增加,光束的宽度参量在两种等离子体机制下的变化周期较大,自聚焦性质下降。