进入二十一世纪,人类社会对数据的需求越来越大。随着诸多新技术与新业务的不断开发,数据需求以爆炸式的速度持续增长,现有的光纤传输容量已经日趋紧张。因此,扩展传输带宽来提高信息传输容量的需求越来越急,寻求一种新的大幅度提高光纤通信容量方法迫在眉睫。基于空间这一新的物理维度的空分复用技术是有望提高光纤通信容量的热点技术。模分复用技术,是空分复用技术中的一种,即利用多模光纤中不同模式的正交性,以不同的模式作为不同的传输信道独立传输信息,使之同时在光纤中传播的技术方式。这种技术对于模分复用网络来说也需要设计新型的模式选择交换机来实现高效率的模式交换。本论文对模分复用网络中基于自由空间的模式的转换、复用与交换等关键技术进行了研究,具体内容如下:第一、研究并实验验证了自由空间中基于单平面光转换的模式转换与复用原理,建立了基于相位板和空间光调制器的自由空间型模式转换实验平台,实现了多种高阶模式的产生。第二、研究了基于多平面光转换的模式控制基本原理并建立了理论模型,利用随机并行梯度下降算法计算出多平面光转换系统的相位平面优化分布。数值仿真结果证明,采用三平面系统可有效提高基模到高阶模式的转换效率至90%以上。第三、设计并利用模拟退火算法仿真实现了基于多平面光转换的LP01、LP21a和LP21b三模式的复用/解复用与转换系统,每个模式的复用转换效率在0.8左右。第四、提出基于多平面光转换的模式选择交换方法,进行了 6模式3路的模式交换仿真验证,仿真结果证明每种状态的转换效率可达到0.89以上,最大模间串扰在-24dB以下。