高非线性光子晶体光纤在超短激光脉冲频率转换、光谱展宽、脉冲压缩以及光波分裂等方面具有重要的应用。光子晶体光纤的高非线性效应可以通过减小纤芯面积、增大空气填充率或使用具有高非线性折射率系数的基底材料等多种方法来实现。论文研究了高双折射纳米结构光子晶体光纤和中红外透光的硫系玻璃光子晶体光纤的基本特性,并数值模拟了超短激光脉冲在纳米结构光子晶体光纤中的传输特性,重点考察了在正常色散区传输时的光波分裂现象。首先,用电磁场散射多级理论研究了纳米结构光子晶体光纤的基本特性。发现其在绿蓝光波段具有优良的高非线性、高双折射、色散可调等特性。为适用于蓝绿光波段光子器件的研究和设计提供了一种思路。其次,研究了中红外透光的硫系玻璃光子晶体光纤的基本特性。发现其在可见至中红外波段均可保持高双折射、高非线性、低限制损耗以及波导色散可调等特性。为研究和设计适用于中红外波段的光子器件提供了一定的理论基础。最后,用分步傅里叶方法模拟了飞秒激光脉冲在纳米结构光子晶体光纤正常色散区传输时产生光波分裂的现象。研究发现脉冲边缘的振荡结构和频谱旁瓣是光波分裂的标志,光波分裂距离、振荡结构强度以及平坦光谱的宽度与色散参数和非线性系数密切相关,选择合适参数的激光脉冲在纳米结构光子晶体光纤中传输,可以在很短的长度内获得宽带超平坦光谱。