当前,随着电子信息技术的发展和互联网应用的兴起,传统的半导体材料和制造工艺已经无法满足芯片的集成度要求和性能指标。硅光子学的产生与发展为光电高集成电路的产生与应用提供了可能。硅基纳米光波导器件是基于纳米尺度范围内光波的倏逝场传输特性,实现纳米尺度有限空间范围内光耦合与光互连的新型波导器件。由于其具有纳米材料的量子尺寸效应、表面效应、量子隧穿效应等优点且能够与CMOS工艺相兼容,因而逐步替代传统光电耦合与互连组件,成为实现高速度、高效率、高密度集成光电器件的良好载体,是实现大容量、高集成度、高处理速度的集成光电系统一体化的前提和基础。然而,纳米光波导器件的发展正处于探索性研究阶段,有许多基础科学问题和关键技术亟待解决。其中,光波导的输出信号强度是影响纳米光波导技术应用的难题之一。而影响光波导输出信号强度的因素主要有两个方面:光波导的耦合效率和光波导的传输损耗。基于此,本文以纳米光波导器件为研究对象,一方面从提高光波导耦合效率的角度出发,对纳米光栅耦合器的耦合机理进行理论分析,系统地研究了入射光参数和光栅结构参数对波导耦合效率的影响。通过理论分析和结构优化,设计高效耦合的纳米光栅耦合器,最佳耦合效率为59.37%,3dB带宽达到65nm,理论上有效地改善了光波导的耦合效率,以提高光波导的输出信号强度。另一方面从降低纳米光波导传输损耗的角度出发,对波导表面粗糙度与传输损耗之间的关系进行理论分析,为波导表面光滑化模型的构建提供理论支撑。对光波导表面氢退火过程进行模拟研究,阐释了高温氢退火工艺改善波导粗糙表面形貌的微观机理,并进行氢退火实验验证。为低损耗光波导器件表面处理工艺过程的实现提供理论和实验依据。