随着高清视频、云计算和物联网等新兴业务与应用的极速发展,在过去的十年,网络容量增长了100倍。现有的传输技术是否能够继续满足网络容量的这种爆炸性增长,是一个巨大的挑战。实际上,相关的研究工作表明,基于香农极限,现有单模光纤通信网的单纤传输极限在100 Tb/s,传输实验也证实了这一点。按此趋势,单模光纤传输系统将在2020年左右出现容量危机。为了超越光纤非线性香农极限,通过增加复用维度的新型复用体制（多维复用）被普遍认为是突破该瓶颈的有效途径,具有代表性的空分复用技术已成为当前光通信领域备受关注的前沿课题。因此,本文针对弱耦合模分复用传输和少模拉曼放大器等关键技术展开了研究,其主要创新性工作可以归纳为以下几个方面:（1）研究少模的保偏光纤特性和无多输入多输出（MIMO,multiple-input-multiple-output）的偏振/模组复用传输。根据光纤模式理论和应力双折射的物理机制,研制了熊猫型保偏少模光纤,实现了少模光纤中的偏振模式退简并,并开展了短距离的无MIMO偏振/模组复用传输。其中,偏振模串扰小于-22 dB,信道间的功率损伤优于3 dB。（2）研究少模的保偏保模光纤特性和无MIMO的偏振/模式复用传输。根据非圆对称光波导和应力双折射的物理机制,设计了少模的保偏保模光纤和多芯/少模的保偏保模光纤,其C波段范围内任意相邻模式之间的有效折射率差（35）ne ff（29）7?10-4,实现了空间/偏振模式的双重退简并,完成了无MIMO的6?10 Gbit/s偏振/模式复用(HG0x 0&HGy00,HG0x 1&HGy01,HG1x 0&HGy10)短距传输,从而大大降低了模分复用传输系统的复杂度。（3）研究少模拉曼放大器的模式/波长增益均衡和噪声特性。首先根据少模光纤中的拉曼散射效应所表征的少模拉曼传输方程,采用非负最小二乘法和遗传算法实现了模式和波长增益均衡。其中,模式增益差值优于0.334 dB,波长增益波动值低于?0.5 dB。然后,进一步在少模拉曼传输方程中引入了噪声项,对放大的自发辐射（ASE,amplified spontaneous emission）噪声和瑞利噪声展开了研究。分析结果表明,当优化泵浦配置获得信号增益均衡时,ASE噪声和瑞利噪声也同时获得了增益均衡,从而确保了信道均衡的光信噪比（OSNR,optical signal to noise ratio）。