随着互联网的普及以及大数据、物联网等技术的发展和成熟,人们对通信容量以及带宽的需求不断增长。现有通信调制、复用技术主要基于线动量来实现,随着频谱资源的进一步消耗,通信容量的提升变得越来越困难。寻找新的通信维度来发展新型调制、复用技术成为信息领域迫切需要解决的关键问题。空间奇点光束是指光强呈暗中空分布的结构化光束,常见的有轨道角动量(OAM)光束以及柱矢量(CVB)光束。由于OAM光束以及CVB光束在光场中心处,其相位或偏振具有不确定性,所以又被称为相位奇点或偏振奇点光束。空间奇点光束的相位或偏振方向围绕中心不断变化,且外层分布具有拓扑结构。因此,可以用拓扑荷来表示光束相位或偏振绕奇点一周的变化程度,不同拓扑荷代表不同光束模式。空间奇点光束拓扑荷理论上具有无穷的希尔伯特空间,且不同拓扑荷的奇点光束间相互正交。因此,空间奇点光束的拓扑荷正是可以用来进行高效信息传输的新的物理维度,利用其发展新型调制、复用技术有望大幅提升通信容量以及容量密度。信息的调制、解调是实现数据通信的基础。将数字信息映射至不同的拓扑荷,能够通过空间奇点光束模态的高速键控来实现信息调制,并通过在接收端对高速切换的模态进行检测、解码来实现信息的解调。因此,如何对奇点光束的模态进行调控、检测是利用奇点光束进行调制、解调必须要解决的关键问题。目前,OAM光束的检测一般通过将OAM光束还原为普通光束来实现,这种检测技术需要对光束进行再次转换,其解调过程复杂且效率低下。对于CVB光束的生成,目前主要基于超构表面以及液晶等对偏振态的空间分布进行转化来实现,这种方法同样也存在着系统结构复杂、稳定性低、成本高、且无法自由调控CVB偏振阶数等缺点,严重限制了奇点光束在光通信中的实际应用。本文针对空间奇点光束在通信应用中面临的信息调制/解调困难等问题,从奇点光束的有效生成出发,详细研究OAM以及CVB光束的模态调控及检测技术,并研究其在调制/解调通信应用中的可行性,具体包括:(1)提出并实现了基于二维电介质超表面的CVB偏振阶数调控方法。利用超表面来生成CVB是一种极为有潜力的CVB产生方法,但单个超表面的结构是固定的,也只能生成单一偏振阶数的CVB。这无疑限制了其应用,本文通过研究发现,通过将超表面和半波片灵活组合,我们可以通过CVB偏振阶数的加减来实现自由调控CVB偏振阶数。(2)提出了一种基于相干检测的OAM模式识别方案,并应用于OAM光束调制/解调通信。将OAM光束应用通信中,最重要的技术就是OAM模态的调控和解调技术。本文通过研究光束相干现象,提出了一种基于相干检测的OAM检测方法,通过检测信号光束与参考光束相干后混合光束的能量来检测OAM模态,从而实现了OAM模态的高速检测。