移动通信技术的飞速发展和普及,给人们的日常生活带来了巨大的变化,但随之而来的网络安全性问题也日趋严重。无线传播环境的开放性、终端的移动性、网络拓扑结构的多样性及无线传输的不稳定性等因素使得无线通信系统面临着更多的安全威胁。现有系统的安全机制建立在网络层之上,假设物理层能够提供一条畅通而无差错的传输链路,以密钥加密的方式对数据进行加密处理。然而,随着Ad-hoc网络、分布式系统等这些低成本、低复杂度网络结构的出现,传统的加密机制已经无法延续。因此,探索有效的物理层安全机制来保证信息传输的安全性成为重要研究方向。物理层安全技术建立在Shannon的安全模型之上,提供一种无需密钥共享,利用无线信道的特性,通过物理层的编码、调制及传输等方式来实现安全通信的解决方案,已经逐渐受到人们的重视和关注。无线传输技术的快速发展和革新,一方面丰富了无线通信物理层的传输资源,同时也给物理层安全带来了广泛的研究空间。传统多天线系统中的预编码技术和分布式协作中继预编码技术已经得到了广泛研究。本论文将针对物理层安全的预编码技术进行研究,系统地分析基于预编码技术下的安全性能,并设计相应的预编码方案来提升无线通信系统的安全特性。本论文中首先总结了物理层安全中预编码技术的研究现状,将面向物理层安全的预编码技术研究主要分为2类,即集中式传输方式下的预编码技术和分布式中继协作传输方式下的预编码技术。在分布式中继协作传输中,根据参与通信节点的协作方式,又可细化为2类,即协作转发和协作干扰。本论文将针对这两种传输方式下的预编码技术都进行了深入的研究。论文的第二章关注于集中式传输方式下的预编码技术研究。首先,针对多发单收的窃听信道场景,基于带有时延的源节点到目的节点的信道方向信息,提出了联合发端预编码和人工干扰噪声赋形的传输策略。重点分析了在该传输策略下,安全容量、安全容量损失及有用信号和干扰信号间的功率分配策略分别与时延的关系。其次,针对单发多收的窃听信道模型,基于目的节点全双工通信机制的假设,提出了选择接收天线和干扰赋形的联合传输策略。基于此策略,给出了安全容量大于零的概率、安全中断概率、安全容量及节点处的误码率四种安全性能指标的理论表达式。进一步,分别研究了基于安全中断概率最小化和安全容量最大化两种准则下的有用信号和干扰信号间的功率分配策略。论文的第三章关注于分布式中继协作传输下的预编码技术研究。针对单向中继窃听信道场景,研究了不同中继转发协议方式、中继协作方式及功率分配策略下的安全性能。首先,针对中继节点采用放大转发协议,提出了分别基于全局信道信息和局部信道信息的单中继协作转发的中继选择策略。进一步,理论分析了基于局部信道信息中继选择策略下的安全性能。其次,针对中继节点采用译码转发(Decode-and-Forward,DF)协议,提出了选择转发中继节点和剩余中继节点协作干扰赋形的联合传输策略,并建立了功率受限下的中继两跳链路安全速率最小值最大化的数学模型,来联合优化中继节点选择、干扰赋形向量及功率分配。再次,针对中继采用DF协议,提出了中继节点协作波束赋形的传输策略,并建立了类似的数学模型,提出了联合中继协作波束赋形向量和功率分配的交替迭代优化求解算法。最后,基于上述提出的协作干扰赋形和协作波束赋形的传输策略,提出了自适应的传输策略。区别于第三章,论文的第四章,针对双向中继窃听信道场景,提出了多中继分布式协作转发的传输策略。首先,提出了基于窃听节点速率受限下的带权重速率和最大化的数学模型来刻画双向中继系统的速率域。针对最优的波束赋形和零空间波束赋形策略,提出了联合赋形向量及功率分配的交替迭代优化算法。其次,针对零空间赋形策略,分别建立了源节点安全速率限制下的功率最小化、总功率限制下的安全速率和最大化及安全速率最小化的数学模型,并应用交替迭代优化算法来联合优化零空间赋形向量及功率分配。进而,针对基于安全速率限制下的功率最小化模型,提出了低复杂度的基于逐步二次规划的零空间赋形向量优化求解算法,并给出了相应的计算复杂度分析。