无线通信技术迅猛发展,衍生出多样的业务场景。但由于无线信道的开放特性,通信过程容易受到非法方窃听和欺骗的攻击。传统的认证与加密方案通常建立在网络协议栈的高层,面对日益增长的量子计算能力以及大规模机器连接等新兴业务场景,传统的安全机制面临挑战。基于此,本文针对无线信道天然的随机性与独特性研究了轻量级高可靠的物理层身份认证与密钥生成技术,作为传统安全方案的补充,主要工作包括:论文在单跳网络下研究了三种基于信道特性的物理层身份认证算法。在基于多载波的典型通信系统中,信道频率响应随机性强,数据量大且易于提取,本文选取其作为基础信息,首先研究了经典的基于似然比检验的认证方案。针对经典方案认证性能易受信道变化快慢的影响,引入相对稳定的多径时延作为第二种信道特征,研究了基于二维信道量化的联合认证方案。考虑到单纯信道特征的局限性,论文进一步引入载波频率偏移作为发送方设备的特征,与信道频率响应一起构建联合检验统计量,实现信道与设备特征的联合认证。数字仿真及分析验证了随着多维特征的引入,联合认证的性能能得到提升和保证。论文在双跳网络下研究了基于信道特性的物理层身份认证算法及其功率分配的优化方案。本文首先将基于似然比检验的认证方案推广至双跳网络,针对其缺乏对恒虚警门限和检测概率的理论分析问题,论文利用大数判决的方式简化认证判决规则,推导分析了简化系统的理论认证性能。考虑到中继与接收设备所处环境的差异性,本文提出基于最优化认证性能的功率分配方案,根据中继与接收端的噪声功率联合调整发送端与中继的发送功率,可以使认证系统在总发送功率不变的情况下漏检率与虚警率的和达到最小。论文从物理层密钥生成机制的流程入手,研究了信道探测,数据预处理,特征量化以及密钥协商四个环节中的经典算法,最后基于软件无线电平台USRP（Universal Software Radio Peripheral）设计并实现了包含物理层身份认证与加密功能的安全通信系统。针对试验平台搭建,系统链路设计以及身份认证和密钥生成等关键模块,本文给出具体的实现方案,并在信道模拟和真实的无线环境中对各模块进行测试,测试结果表明试验平台中基于信道特性的认证与加密机制能有效抵御非法方窃听和欺骗的攻击。