近年来，硅光子学成为当今世界上一个热门的前沿学科。由于硅基微纳波导具有高的克尔系数和拉曼增益系数及强的限光能力，硅波导中的非线性光学效应引起了人们巨大的研究兴趣。在本论文中我们研究了硅波导中的四波混频效应(FWM)，交叉相位调制效应(XPM)和拉曼散射效应及它们的应用。主要研究内容和创新成果如下：1、在综合考虑线性损耗、色散、拉曼散射效应、克尔效应、双光子吸收效应、自由载流子吸收效应和自由载流子色散效应的基础上，从麦克斯韦方程组出发推导了超短脉冲在硅波导中的非线性传输方程。2、研究了通信波段SOI波导中基于FWM效应的飞秒脉冲泵浦的波长转换。发现当脉宽小于100fs时发生泵浦、信号和闲频间光谱重叠而难以实现有效波长转换。研究了脉冲重复频率对波长转换效率的影响，发现当脉冲重复频率较高时，由于自由载流子吸收变大而使转换效率降低。3、研究了SOI波导色散对基于FWM效应的飞秒脉冲泵浦的参量放大的影响。通过改变脊形SOI波导的结构尺寸，可实现宽带的准相位匹配，并得到光滑的时域脉冲且FWM输出频谱可分离。4、提出了一种宽度可调的SOI波导结构来实现基于FWM的频率非简并相位敏感参量放大。通过改变宽度可调SOI波导的第二段波导的宽度和长度，可以调节进入相位敏感放大器前的相对相位，从而影响参量放大过程的增益。5、提出了一种在硅隔膜波导中利用FWM产生太赫兹波的新方法。发现当泵浦波长在正常色散区时才能实现相位匹配。理论验证了在硅波导中基于FWM的太赫兹波产生技术可以实现大于1%的转换效率。6、在SOS波导中，研究了中红外波段三光子吸收对交叉相位调制的影响。发现在泵浦光强足够高时，三光子吸收引起的非线性损耗将相当大。在交叉相位调制过程中，三光子吸收和三光子吸收引起的自由载流子吸收影响了信号的时域形状和频谱特性，且抑制了交叉相位调制引起的频移。7、在SOS波导中，理论研究了中红外波段的拉曼放大和反斯托克斯拉曼波长转换。在输入斯托克斯光和泵浦光功率之比较大时，参量增益抑制效应发生，即当线性相位失配趋于零时，斯托克斯增益和转换效率下降较快。由于参量增益抑制效应的影响，在线性相位失配为零时的转化效率比峰值转换效率低了28dB。8、在SOS波导中，研究了当泵浦和斯托克斯波垂直偏振时基于CARS的波长转换中的相位匹配技术。发现双折射引起的相位失配加上材料色散引起的相位失配可以抵消波导色散引起的大的相位失配。与同偏振的相位匹配相比，正交偏振的相位匹配可以在横截尺寸更小的SOS波导中实现。9、实验研究了基于SOI波导的波长转换。分析了入射泵浦光功率对转换效率的影响，并讨论了不同宽度和不同长度的SOI波导对转换效率的影响。