光学传感器依据光学原理进行测量,具有非接触和非破坏性、抗电磁干扰、高速传输以及可遥测、遥控等优点。随着全球光学传感器市场规模逐年增大,中国的光学传感器市场规模也在不断增大。但是,我国光学传感器行业发展水平较低,核心专利和制造技术长期被国外所垄断。因此,实现光学传感器的自主可控是提高我国科技竞争力和打破国外垄断的重要途径。反射型光学传感器中的表面等离子体共振（Surface Plasmon Resonance,SPR）传感器由于稳定性好、体积小、实时性好等特点,被广泛应用于食品安全、环境检测、医学诊断等领域。然而,传统金属薄膜SPR传感器存在灵敏度较低、综合性能较差、受外界环境影响较大等问题。本论文首先开展基于角度调制和相位调制的SPR传感器增敏机理的研究,通过添加具有优异光电性能的新材料来提高SPR传感结构的灵敏度。其次,将智能优化算法应用于SPR传感器新结构的优化设计,快速获取新结构每层最优厚度,从而得到SPR传感器最优灵敏度和精度,解决了传统SPR传感结构设计方法耗时和效率低下的问题,为SPR传感器智能设计提供新的平台。最后,对SPR结构应用进行了研究,设计了一种具有高调制深度和低插入损耗的新型SPR宽带光反射调制器。论文主要工作如下:（1）提出基于氧化铟锡和二维材料的高灵敏SPR结构。基于氧化铟锡和二维材料的高电导率、高载流子迁移率、高透光率、能量带隙可调等光电特性,设计了两种新型Kretschmann结构的SPR传感器,并对它们的灵敏度和电场分布分别进行了研究。在灵敏度方面,使用了传递矩阵法与菲涅耳方程等数值仿真手段,利用固定变量参数扫描法对两种新型SPR传感结构进行了角度调试和相位调制的研究。研究结果表明,两种新型SPR传感结构相较于传统Ag-SPR传感结构,角度和相位灵敏度均显著提高。（2）提出适应度正序淘汰机制、自适应动态惯性权重和杂交粒子群优化算法结合的SPR传感器性能智能优化方法。针对粒子群优化算法在SPR传感器增敏设计过程中存在收敛速度慢、易陷入局部最优和全局搜索能力差等问题,在标准粒子群优化算法中引入适应度正序淘汰机制、自适应动态惯性权重、异步变化的学习因子和遗传算法的杂交概念,从而增强全局搜索和局部改良能力,加快了算法的收敛速度。基于适应度正序淘汰机制的粒子群优化算法,新型过渡金属硫化物-石墨烯杂化结构的灵敏度进行优化分析,并且,优化得到灵敏度与固定变量参数扫描法得到灵敏度进行对比。为了验证优化算法的广泛适用性,利用适应度正序淘汰机制的粒子群优化算法对一种新型SPR气体传感器灵敏度进行了优化。研究结果表明:与标准粒子群优化算法相比,提出的基于适应度正序淘汰机制的粒子群优化算法在计算效率上有显著提高。（3）提出一种基于混沌映射、适应度逆序淘汰机制、非线性缩放因子和交叉概率因子调控策略的差分演化算法,实现对古斯-汉欣位移的智能优化设计。针对标准差分演化算法易陷入局部最优解的问题,在标准差分演化算法中引入混沌映射方法、适应度逆序淘汰机制、非线性缩放因子和交叉概率调控策略,从而保持了种群的多样性,加快了算法的收敛速度,同时增强了算法的全局搜索能力。基于混沌映射的差分演化算法,对SPR传感器的古斯-汉欣位移和灵敏度进行优化研究,并将其与固定变量参数扫描法及标准差分演化算法分别进行了对比分析。研究结果表明:与固定变量参数扫描法相比,提出的基于混沌映射的差分演化算法在古斯-汉欣位移和灵敏度上均有显著提高;与标准差分演化算法相比,提出的基于混沌映射的差分演化算法在计算效率上有显著提高。（4）设计一种基于介电常数趋零效应的SPR宽带光反射调制器。为了实现SPR结构的广泛应用,基于氧化铟锡的介电常数趋零效应,设计了一种SPR宽带光反射调制器。光反射调制器的设计由垂直叠层构成,具有易于制造、工艺简单等特点。在外界电压驱动下,二氧化铪/氧化铟锡界面上的介电常数趋零效应导致强场增强,并改变了入射光的SPR条件。通过优化几何参数和适当的载流子浓度设计,可以同时获得较高的调制深度和较低的插入损耗。并且,对光学调制器性能影响的载流子浓度、硅层的厚度和波长分别进行仿真分析。研究结果表明:通过优化结构参数,可同时获得约100%的调制深度和3.7%的插入损耗。