D2D(Device-to-Device)通信是一种在蜂窝小区基站的控制下,用户终端之间不通过基站中转而直接传输数据的技术,具有频谱利用率高、小区容量高等优势并成为下一代移动通信的关键技术。为解决无线系统空口面临的安全威胁,近几年应运而生的物理层安全技术利用无线信道特点从信号层面保障信息的安全传输,能够实现信息论上的“绝对”安全。与传统无线系统一样,由于无线传播的开放性,D2D蜂窝系统也面临着严峻的安全威胁。因此,如何利用物理层安全技术保障D2D蜂窝系统的安全成为学术界和工业界的研究热点。D2D通信技术具有信道质量好、信道容量高等优势,容易满足低安全性业务的需求,此时主要考虑蜂窝链路的安全性而无需考虑D2D链路的安全性;但针对高安全性的业务,需同时考虑D2D链路和蜂窝链路的安全性(为方便起见,文中分别以“仅考虑蜂窝链路安全性”、“兼顾蜂窝链路和D2D链路的安全性”来区分上述两种场景)。目前,D2D蜂窝系统的物理层安全研究在不同场景下虽均取得了一定的成果,仍存在一些尚未解决的问题。在兼顾蜂窝链路和D2D链路安全性的场景中,存在的问题主要包括:1)在资源共享机制的设计方案中未考虑蜂窝用户和D2D用户优先级的差异性;2)缺乏利用5G新技术提供的冗余信息来设计兼顾蜂窝链路和D2D链路安全性的安全传输方案。在仅考虑蜂窝链路安全性的场景中,存在的问题主要包括:1)缺乏折中蜂窝链路和D2D链路的可靠性和蜂窝链路安全性的资源共享机制;2)现有D2D蜂窝下行链路的安全传输方案仅局限于点到点链路间的场景。针对上述问题,本文依托国家“863”计划和国家自然科学基金等项目,针对D2D蜂窝系统物理层安全展开研究,从而增强D2D蜂窝系统的安全性。根据D2D链路传输业务的差异,论文在上述两种场景中,从有益干扰和人工噪声两个方向入手研究D2D蜂窝系统的物理层安全技术。其中研究成果1、2和研究成果3、4分别对应兼顾蜂窝链路和D2D链路安全性、仅考虑蜂窝链路安全性两种场景。本文的主要研究成果如下:1.针对蜂窝用户和D2D用户优先级差异性的问题,提出了一种基于安全中断概率的D2D用户接入控制策略。在保证蜂窝用户安全通信的基础上,以最小化D2D用户安全中断概率为目标。为使D2D用户复用资源时存在的同频干扰不影响蜂窝用户的正常通信,该策略首先根据D2D用户与蜂窝用户到基站的信道方向,使复用资源的D2D用户到基站的信道方向尽量落在蜂窝用户到基站信道方向的零空间内,从而确定可复用蜂窝用户无线资源的D2D用户集;其次,优化确定的D2D用户集所有D2D发送端发送功率使其安全中断概率最小;再次,选择安全中断概率最小的D2D用户复用蜂窝用户资源接入网络进行通信。最后,仿真证明了所提策略在保证D2D用户不影响蜂窝用户可靠性通信的基础上,利用同频干扰能够有效提升蜂窝用户和D2D用户的安全性。2.针对如何利用5G技术提供的冗余信息保障蜂窝链路和D2D链路信息安全传输的问题,提出了一种基于人工噪声的全双工D2D蜂窝系统安全传输方案,并给出了最大化系统平均安全速率的功率优化算法。利用全双工技术提供的频域冗余信息,基站在接收蜂窝上行链路信号的同时,利用发射天线阵列同时同频地发送人工噪声来保障蜂窝链路和D2D链路信息的安全传输。提高某一类用户的发送功率,在提升自己安全速率的同时会降低另一类用户的安全速率。因此,在满足蜂窝用户安全性能需求的条件下,给出了最大化系统平均安全速率的蜂窝用户和D2D用户发送功率的联合优化算法。最后,仿真验证了所提联合功率优化算法的有效性。3.针对蜂窝链路和D2D链路的可靠性和蜂窝链路安全性的折中问题,提出了一种基于链路协作机会D2D接入的蜂窝系统安全传输方案,并给出了干扰门限值的优化算法。在保证蜂窝用户和D2D用户可靠性通信的基础上,利用链路间的同频干扰提升蜂窝链路的安全性能。针对多个D2D用户同时复用一个蜂窝用户资源的场景,在基站部署多天线和单天线两种情况下分别利用无线信道方向或增益表征复用资源的蜂窝用户、D2D用户间的干扰大小。根据蜂窝用户和D2D用户可的通信需求,设置合适的干扰门限值来保证蜂窝用户和D2D用户可靠性通信。另外,接入网络复用无线资源的D2D用户可看作蜂窝用户的友好干扰点从而提高蜂窝链路的安全性。为进一步提高D2D蜂窝系统的性能,在保证蜂窝用户安全通信的前提下,并给出了最小化D2D用户连通中断概率的最佳干扰门限值的联合搜索算法。最后,仿真验证了所提方案的有效性。4.针对D2D蜂窝下行链路安全传输方案仅局限于点到点链路间场景的问题,提出了一种基于人工噪声辅助的D2D蜂窝下行链路安全传输方案,并从系统层面分析了D2D蜂窝系统下行蜂窝链路的安全性和D2D链路的可靠性。在基站仅仅知道蜂窝用户与其之间的信道状态信息(Channel State Information,CSI),而无法获取D2D用户与基站CSI的场景下,多天线基站在发送有用信号的同时在合法用户信道的零空间发送人工噪声来保障蜂窝链路的安全通信。由于未知被动窃听者的译码能力,文中首先考虑了两种不同的安全等级并在两种情况下分别推导了典型蜂窝链路的安全中断概率,且详细分析了系统参数对其性能的影响。然后,为刻画D2D链路通信的可靠性,推导了典型D2D链路的连通中断概率并分析了系统参数对D2D链路可靠性的影响。最后,仿真验证了理论推导结果的正确性。