随着移动无线设备的大规模普及,未来无线网络中设备间数据传输的需求呈指数级增长,其中频谱资源紧缺问题不可忽视。作为下一代移动通信网络的关键技术,设备到设备（Device-to-Device,D2D）通信能够提高频谱利用率,降低基站负荷,应用在众多领域。考虑到无线通信环境的开放性以及窃听、攻击等各类安全威胁,通过无线通信网络传输的数据的隐私性和保密性变得至关重要。提供高质量的安全服务是无线通信网络设计和发展的重中之重。尽管基于高层加密的传统方法可以提供安全保障,但是设备的低硬件配置不足以实现复杂的加密措施。物理层安全利用无线信道在物理层固有的随机性来实现保密性。这一优势使得物理层安全非常适合在5G和更高级别的复杂网络中实现。移动设备间的互动自然形成了社交关系,本文将社交关系作为协作干扰方案设计的内部激励,设计安全有效的社交层和物理层优化算法。具体来说,本文的主要研究工作如下:（1）首先,本文介绍了物理层安全相关内容、挑战与国内外研究现状,并对面向D2D通信系统的物理层安全与节点属性进行了调研,包括D2D通信系统、物理层安全技术、社交属性分析基础,为后文的研究方案奠定基础。（2）其次,考虑到对社交信息的掌握程度不同,本文设计了针对基于通信历史记录和基于时空统计规律的社交属性提取与社交关系量化方法。根据设备间通信交互的历史记录,并应用Prophet时间序列模型构建了合理准确的社交亲密度预测;根据时空统计规律,通过通信时间和设备间距离的概率分布对社交关系进行了推导。（3）最后,基于提出的社交关系量化方法,本文进一步设计了信道状态信息完全已知和统计已知场景下社交层和物理层的协作干扰策略。根据设备通信的信道状态信息,该方案同时考虑了物理层的安全性能和应用层的社交关系,提出D2D设备和蜂窝设备之间的最佳匹配优化问题,并应用Kuhn-Munkres（KM）算法来得到最优解。对于设备间信道状态信息统计已知的情况,分析了系统的连接中断概率和安全中断概率,并针对存在的矛盾性,对安全传输概率进行优化,从而保障系统的可靠性和安全性。全文共5章,图20幅,表3个,参考文献71篇。