极速的用户体验,海量物联网终端的接入,超高速移动场景等应用迫切需求支持高速率、低延迟、超高流量密度、全覆盖的新一代无线通信系统。掌握无线信道传播特性是系统设计的基础和关键,因此精确地预测信道特性是存在的关键性难题。而高性能射线追踪传播模型的开发和应用则是一项强有力的解决方案。本文面向新一代无线通信系统的射线追踪模型展开研究,论文的主要工作和成果如下:（1）基于射线发射方法和空间剖分加速算法,建立了一种三维高效的大规模MIMO（Multiple-Input Multiple-Output）射线追踪传播模型。通过四面体之间的邻接关系可以显著降低射线与物体相交测试的次数,从而提高大规模MIMO信道链路仿真效率。采用64单元平面型大规模MIMO系统开展了信道测量,通过仿真结果与测量结果的对比验证了模型的准确性。（2）针对D2D（Device-to-Device）场景中终端的随机移动和摆动,建立了一种考虑随机天线倾角效应的极化射线追踪传播模型。通过坐标变换,推导了任意倾角天线的辐射方向性函数,并将其并入到空间剖分射线追踪传播模型。另外,提出了一种灵活可调的天线倾角模型,用于表征终端的随机摆动。将极化射线追踪传播模型应用于不同场景,通过与测量结果的对比,验证了模型的准确性。分析了信道去极化特性和随机天线倾角对接收信号的影响,并根据仿真结果的统计分析,建立一种考虑随机天线倾角效应的统计信道模型。（3）针对存在移动散射体的场景,建立了一种简单高效的实时射线追踪传播模型。该模型通过预定义的活动区域,避免了由散射体移动而导致的重复性建模,从而简化了场景预处理。提出了一种基于面属性变换的方法并结合相应的速度模型来模拟散射体的随机移动。另外,提出一种自适应的射线发射技术,显著提高了该模型的计算效率。将该模型应用于存在行人的室内场景,通过对比测量结果验证了模型的有效性和准确性。（4）针对存在移动散射体的场景,建立了一种灵活通用的实时射线追踪传播模型。该模型采用静态场景和移动散射体完全独立的建模方法,保证了散射体移动在时间和空间上的连续性,并且可以适用于各种移动散射体模型。另外,提出了一种改进的空间剖分射线追踪算法,将移动散射体效应考虑在内。将该模型分别应用于室内密集用户场景和室外车辆到车辆通信场景,表明了该模型的优越性能。