本文发现并深入研究了在光学共振腔中,表面等离子体共振与光学腔共振的相互耦合效应。表面等离子体共振探测由于其实时、无伤的特点,在生物研究、健康医学、环境监测等领域越来越流行。而腔共振也是获得高灵敏度检测的有效手段,是光学微腔领域一直开展的一项重要研究课题,近年来已有许多新进展。然而,腔共振与表面等离子共振来源于不同物理机制,二者的共振条件和物理特性通常也截然不同,以往大多数研究并没有将二者放在一起分析。本文研究了金属与电介质组成的多层膜结构中,表面等离子共振与光学腔共振的相互作用,通过数值计算与分析发现,一方面所有金属层的总厚度对共振特性起核心作用,另一方面两种共振相互作用会产生表面等离子共振模式增加和共振峰锐化等现象,并且谱线随参数的变化呈现丰富多彩的性质。值得指出,这种耦合可以极大的增强基础表面等离子体共振探测器的灵敏度,本文把这种对基础表面等离子体共振探测器灵敏度的增强方法与已有成果进行了分析和对比,并详细的探讨了这种增强方法的稳定性、鲁棒性和实用性。在研究表面等离子体共振与腔共振的耦合效应的过程中,本文还研究了表面等离子体的无耦合激发。本文研究了由金属与电介质构成的,周期性交替变换的多层膜结构,并尝试通过这种多层膜结构来实现折射率小于1的等效介质,进而实现无耦合激发。本文以等效介质理论为结构设计的指导,介绍并给出了等效介质理论的简单推导,给出了相应若干的应用限制和条件,介绍了带有修正项的等效介质理论,并给出了上述各情况下的构型设计的数值计算结果,观察无耦合激发表面等离子体的实现情况。另外本文还尝试了用能带设计的思路,以实现无耦合激发表面等离子体,并给出了相应的试验结果。这些结论有助于深入理解与金属表面波激发相关的各种共振现象,并在多模式探测和提高探测灵敏度方面提供了新的解决思路。