以5G为代表的无线通信技术已成为当前民众接入互联网的主流方式,但由于传输介质的开放特性以及无线侦听、拦截技术的发展,无线通信面临日益增长的安全威胁,其安全和隐私保护已成为信息安全领域的热点问题。作为一种新兴的无线安全通信技术,无线隐信道将隐秘信息的传输隐藏在正常的无线通信过程中,以避免被第三方察觉。相较于其他无线隐信道,星座图调制类无线隐信道利用通用物理层调制冗余将隐秘信息嵌入到正常无线信号的单个符号中传输,具有更高的传输速率的同时能够在有监管或强对抗场景下掩盖通信行为以规避侦听及主动干扰,是无线隐信道中最具应用潜力的类型。然而当前此类隐信道方法的设计中尚缺乏对统计类检测工具抵御能力的考虑,同时隐蔽通信的可靠性易受信道干扰影响,且缺少向常见应用场景的拓展。针对现有研究的不足,本文从提高抗检测性、提高可靠性、向多进多出（Multiple Input Multiple Output,MIMO）和多播场景拓展等方面对星座图调制类无线隐信道开展研究。本文开展的主要研究工作如下:（1）针对当前星座图调制类无线隐信道抵御统计检测能力不足的问题,提出了基于星座图拟形调制的无线隐信道方法。根据典型无线信道噪声分布特性,利用分布匹配和模型拟合机制将隐秘信息调制成分布近似于信道噪声的人工噪声叠加在正常无线信号上传输。仿真结果表明该方案相较于现有星座图调制类无线隐信道,在抗检测性方面有显著提高,同时可靠性也有一定的提高。（2）为了在保持抗检测能力的同时提高隐蔽通信的可靠性,基于典型信道噪声中心密集且对称的分布特性,从添加扰动使得隐信道解调边界随机化的角度出发提出了基于星座图扰动调制的无线隐信道方法。在人工噪声调制过程中添加收发双方共享的扰动参数来增大星座图中载密星座点之间的距离,同时在调制过程中使用模拟混沌码来编码加扰的隐秘信息,从而增强抗干扰能力。仿真结果表明,相较于星座图拟形调制方法,该方法可以在保持相同抗检测性的同时显著提高可靠性。（3）基于人工噪声分布特性保持下载密噪声幅值越大则隐信道可靠性越强这一特性,提出了基于星座图分区调制的无线隐信道。将隐秘信息仅调制成人工噪声的部分分量,其余分量保持人工噪声分布特性不变;同时利用典型无线信道噪声的对称分布特性设计镜像映射策略,降低载体信号解调错误对隐蔽通信可靠性的影响。仿真结果表明,相较于星座图扰动调制方法,基于星座图分区调制的无线隐信道在保持相同抗检测性的同时在强信道干扰条件下可靠性有显著提高。（4）为了使星座图调制类无线隐信道适用于无线通信中常见的MIMO场景,提出了分别适用于静态和动态信道状态信息MIMO场景的无线隐信道,通过预编码和信道状态信息抖动来去除多路信号之间的相关性,从而抵御多路信号相关性测试。仿真结果表明,相较于现有MIMO方法,所提的两种MIMO无线隐信道在其对应场景下能够有效去除多路信号之间的相关性,抗检测性有显著提高,同时可靠性也有一定提升。（5）无线隐信道的开放特性使其天然适用于多播场景,对多播场景下的星座图调制类无线隐信道问题进行了分析,将隐私性作为额外性能评价指标,分别提出了基于正交频分多址接入和差分非正交多址接入的多播无线隐信道,前者侧重提高可靠性,后者侧重加强隐私性。仿真结果表明,相较于单播无线隐信道,基于正交频分多址接入的多播无线隐信道在保持相同抗检测性和隐私性的同时可靠性有进一步提高,基于差分非正交多址接入的多播无线隐信道在保持相同抗检测性和可靠性的同时隐私性有显著提高。最后,对论文进行了总结,展望了星座图调制类无线隐信道的发展趋势,并指出了未来的研究方向。