量子光学是处理光与物质相互作用的学科,经过近半个世纪的蓬勃发展,已经成为了物理领域的重要组成部分。一百多年来,X射线光源的亮度提升了十几个数量级。尤其是近年来发展的新一代高能同步辐射和X射线自由电子激光,极大提升了 X射线的亮度和相干性。量子光学和高质量X射线光源的结合,成功地将量子光学的研究内容拓展到了 X射线波段,并逐渐形成了 X射线量子光学这门新兴学科。得益于成熟的制备和探测技术,使用薄膜平面腔对X射线进行相干调控,迅速成为了X射线量子光学领域的重要分支。薄膜平面腔由多层膜制成,原子以薄膜的形式内嵌在薄膜平面腔中,与腔内X射线光子发生相互作用,可以实现对原子核或原子内壳层不同能级体系的调控。目前,原子核体系的研究焦点从单激发多体问题拓展到了更加复杂的多体之间相互作用,而其中的相互作用机理仍待进一步明晰。原子内壳层体系由于受限于复杂的能级结构,相关研究较少,有待进一步发展。本论文使用薄膜平面腔,结合原子核和原子内壳层跃迁,开展了系列的X射线量子光学研究。目的是拓宽X射线量子光学的研究范围,推动基于X射线薄膜平面腔的量子调控进入更实用的层面。本论文的主要内容包括:(1)从单层原子核薄膜出发,介绍了Parratt、传输矩阵和量子模型等理论工具,并发展了一套可以快速求解多层核薄膜系统的简洁传输矩阵方法。利用新发展的理论工具,研究了双层核薄膜之间的耦合作用,发现核薄膜之间的交换相互作用与核薄膜的间距有周期性关系,并依此实现了间距调控的电磁诱导透明现象。根据掌握的周期性变化规律,设计了三层核薄膜构成的波腹-波节-波腹(101)构型,提出了暗态等效核腔系统。暗态类似质量优越的腔,可以实现强耦合;(2)将薄膜平面腔的调控方法应用到了原子内壳层体系,拓宽了其研究范围。具体而言,选取有较强共振荧光通道的W原子,利用原子与腔相互作用强度受腔模式阶数调控的特点,实现了对共振荧光通道辐射速率的直接调控,并能间接调控空穴的寿命。另外,利用更加广泛存在的非弹性荧光线,依据薄膜平面腔选择真空场模式的能力,实现了 X射线波段荧光的定向辐射效应;(3)设计了国内的核量子光学实验平台。北京高能光源HEPS首批建设线站ID33涵盖核共振散射技术(Nuclear Resonant Scattering,简称NRS),依托该线站,可以在国内发展X射线核量子光学所需要的实验平台。为解决ID33中X射线脉冲时间间隔对57Fe核素不够长的问题,以及考虑到能域核共振散射技术在核量子光学上的不可替代性,为ID33设计了一套能域核共振散射谱仪——基于高能同步辐射的穆斯堡尔源SMS。本论文的结构如下:第一章概述了 X射线量子光学的发展历史,介绍了 X射线薄膜平面腔,及其与原子核共振能级和原子内壳层共振能级构成的不同系统;第二章介绍了理论方法和实验技术。理论方法包括Parratt经典模拟、半经典传输矩阵、量子模型以及我们实验组新发展的半经典简洁传输矩阵方法。实验技术介绍了探测原子核能级体系的核共振散射技术,包含时域和能域两种不同模式,以及探测原子内壳层能级共振的X射线荧光技术和共振非弹性X射线散射技术(Resonant Inelastic X-ray Scattering,简称RIXS);第三章介绍了本文利用薄膜平面腔开展的原子核系统研究,包括单层核薄膜对薄膜平面腔内场强分布的影响、双层核薄膜实现的可调电磁诱导透明和三层核薄膜实现的量子暗态等效腔等三部分;第四章介绍了利用薄膜平面腔开展的原子内壳层共振跃迁研究,包括W原子LⅢ空穴寿命调控和荧光定向辐射两部分;第五章,设计了一套能域核共振散射谱仪——同步辐射穆斯堡尔源(Synchrotron Mossbauer Source,简称SMS),同时详细描述了该谱仪在HEPS-ID33的安装调试方案。