无线物理层安全技术利用发送端到合法用户的信道和到窃听者的信道之间的随机性、差异性和互易性等特性从物理层上实现信息的安全传输。它从信息论意义上确保窃听者无法获取信源发送的信息,在抗窃听、低截获和无线通信系统设计等领域具有广阔的应用前景。多天线技术通过利用丰富的空间资源,不仅能够获得传输的可靠性和有效性两方面的优势,而且自然增加了信道间差异性,为无线物理层安全技术研究提供了广阔的空间。然而,多天线系统的物理层安全传输性能很大程度上依赖于发送端获取的信道状态信息(Channel State Information,CSI),不同信道信息条件和应用场景下的安全传输成为物理层安全技术研究中的关键和难点问题,论文围绕这些关键和难点问题展开研究。首先,针对多输入单输出(Multiple-input Single-output,MISO)系统中发送端已知窃听信道统计信息的情况,论文研究了人工噪声辅助安全传输的功率分配问题,提出了一种最小化系统保密中断概率的最优功率分配算法。已有研究证明,在仅有窃听信道统计信息的情况下,人工噪声的设计应当正交于主信道,而且系统的安全性能取决于有用信号和人工噪声间的功率分配。论文推导了保密中断概率的闭合表达式,并以最小化保密中断概率为目标设计了最优功率分配算法。针对单个具有多天线的窃听者情况,提出了一种基于Golden搜索的最优功率分配算法。针对多个具有单天线的窃听者情况,提出了一种闭合的最优功率分配算法,并将最优功率分配算法转化为一个确定性方程求解,从而推导得到其闭合解。针对上述两种场景的仿真结果表明所提出的最优功率分配算法性能明显优于传统波束成形算法和等功率分配算法。其次,针对多输入多输出多窃听(Multiple-input Multiple-output Multi-antenna Eavesdropper,MIMOME)模型中发送端未知窃听信道信息的情况,论文提出了一种发送天线选择(Transmit Antenna Selection,TAS)和最大比合并(Maximal Ratio Combining,MRC)相结合的安全传输算法。在这种场景下的安全传输设计中,发送端需要得到合法接收端反馈的最优天线系数。在理想反馈时,系统能够获得与未考虑安全性传输的传统多天线系统相同的分集阶数,且该分集阶数与窃听者天线数目无关。在实际系统中,由于信道反馈延时、信道估计误差等因素影响,理想反馈几乎是不可能的。论文分别研究了时延反馈、错误反馈以及联合时延和错误反馈对发送天线选择和最大比合并算法安全性能的影响,推导了获得非零保密传输速率的概率和保密中断概率的闭合表达式。通过分析高信噪比(Signal-to-Noise Ratio,SNR)下的渐近保密中断概率发现,当出现时延或错误等非理想反馈时,来自天线选择的分集增益将消失,系统仅仅获得接收端的最大比合并分集增益。所得分析结果更具有一般性,可直接扩展到已有文献中研究的理想反馈情况。论文通过仿真验证了理论分析结论的正确性。再次,针对多输入单输出的感知无线电网络(MISO Cognitive Radio Network,MISO-CRN)中发送端未知窃听信道信息的情况,论文提出了一种人工噪声辅助安全传输算法。假定网络中主用户和次用户工作于Underlay模式。该算法从用户服务质量(Quality of Service,Qo S)的角度,在保证次用户(Secondary User,SU)的接收信干噪比(Signal-to-Interference-plus-Noise Ratio,SINR)和主用户(Primary User,PU)的干扰温度约束下,最大化人工噪声的发送功率。当次用户发送端已知主用户信道信息和次用户信道信息时,理论证明了波束成形是最优的有用信号传输策略,此时输入方差矩阵的秩为1。然而,当次用户发送端获取的信道信息存在误差时,理想信道条件下设计的人工噪声策略将产生噪声泄漏,严重影响合法用户的接收性能。论文假定次用户发送端获取的主用户信道信息和次用户信道信息均存在误差,分别将信道误差建模为信道矢量误差模型、信道方差误差模型和统计信道误差模型。在信道矢量误差模型和信道方差误差模型下,论文提出了一种基于最差性能的鲁棒人工噪声算法,相应的优化问题是一个NP-hard(Nondeterministic Polynomial hard)问题。基于S-Procedure引理和凸优化理论,论文推导了等效的约束条件,并将原始问题转化为一个半正定规划(Semidefinite Program,SDP)问题,从而得到了最优的人工噪声输入方差设计。针对统计信道误差模型,论文提出了一种基于中断概率约束的鲁棒人工噪声算法,相应的优化问题简化为一个机会约束的非凸问题。借助于Bernstein型不等式,论文将复杂的概率约束条件转化为一系列确定性不等式,从而获得了人工噪声输入方差的一个近似解。仿真结果表明,提出的鲁棒人工噪声算法在三种信道误差模型下均有效地降低了信道误差的影响。最后,针对单向中继窃听系统、双向中继窃听系统和MIMO非信任中继窃听系统中发送端已知理想的信道信息情况,论文分别提出了相关的最优中继波束成形算法、中继聊天安全传输算法和目的端干扰辅助安全传输算法。在出现单天线窃听者的单向中继系统中,目前并没有合适的算法来计算放大转发(Amplifyand-Forward,AF)模式下最大化保密传输速率的中继波束成形矢量。论文首先提出了一种基于分支定界(Branch-and-Bound)的中继波束成形算法,并理论证明该算法能够获得全局最优解。考虑到最优算法的计算复杂度高,进一步提出了一种基于广义功率迭代(General Power Iteration,GPI)的次优中继波束成形算法。次优算法在每次迭代过程中仅需要计算三个矩阵值,有效地降低了计算复杂度。在双向中继窃听系统中,已有文献提出的联合中继和干扰节点选择算法存在着保密中断概率随着信噪比增加而并不趋近于零的问题。为了解决这一问题,论文提出了一种中继聊天(Relay Chatting,RC)安全传输算法。该算法结合了机会中继选择和协作干扰两方面的优势,通过选择多个中继使用分布式波束成形能够消除对合法接收端的干扰影响,而仅降低窃听者的接收性能。理论分析和仿真结果表明在高信噪比下,所提中继聊天安全传输算法的保密中断概率将趋近于零。进一步,在实际系统中,中继可能是非信任的(即中继试图破译信源发送信息),此时没有直传路径的MIMO中继系统并不能进行安全传输。针对此场景,论文提出了两种目的端干扰辅助的安全传输算法,即联合信源、中继和目的端的预编码算法和基于非信任中继天线选择算法。在联合信源、中继和目的端的预编码算法中,提出了一种基于交替迭代的最优信源、中继和目的端预编码矩阵设计方案来最大化系统保密传输速率。其中,最优的信源和目的端预编码矩阵分别通过求解一个凸优化问题获得,而最优的中继预编码矩阵具有闭合解。在基于非信任中继天线选择算法中,根据不同的应用场景,提出了最优策略(Optimal)、最大化非信任中继SINR策略(Suboptimal I)和最小化非信任中继SINR策略(Suboptimal II)等多种天线选择策略。仿真结果表明,提出的联合预编码算法和非信任中继天线选择算法极大地提高了系统安全性能。