非正交多址接入（NOMA）系统利用叠加码、功率分配和串行干扰消除算法在相同的频带上同时为多个用户设备提供服务,比传统正交多址接入系统具有更高的频谱利用率,是第五代（5G）移动通信系统的研究热点之一。终端直通（D2D）、中继协作技术同样可提高蜂窝无线系统的频谱效率或和速率,将之与NOMA结合能更好地满足未来海量用户设备接入的需求。而对于用户设备更换电池不便的NOMA应用场景,无线携能通信（SWIPT）与NOMA的组合可解决用户设备的电能供应问题。但无线传输固有的广播特性使得NOMA、NOMAD2D和SWIPT-NOMA系统中的用户数据存在被窃听威胁,物理层安全（PLS）因具有无需密钥、不受窃听端计算能力影响等优点可实现无线系统在信息论意义上的安全通信,为此,本文将分别对NOMA-D2D协作无线系统和SWIPT-NOMA系统的物理层安全进行研究。针对蜂窝用户、D2D终端同时被窃听的物理层安全传输问题,提出一种采用发射天线选择（TAS）的NOMA-D2D协作无线系统PLS模型,考虑基站基于近端用户的TAS（TAS-DT）和基于远端蜂窝用户的TAS（TAS-U）两种方案。利用高斯-切比雪夫正交定理推导NOMAD2D协作无线系统在TAS-DT或TAS-U方案下的安全中断概率、非零安全容量概率和渐近安全中断概率近似表达式。数值计算与仿真结果表明:NOMA-D2D协作无线系统的PLS性能表达式具有很高的准确性;采用TAS技术可提升NOMA-D2D协作无线系统的PLS性能,且其在TAS-DT方案下的PLS性能优于TAS-U方案;在基站总功率恒定时增大分配给远端蜂窝用户的功率能有效提升NOMA-D2D协作无线系统的PLS性能。针对SWIPT-NOMA系统中能量收集器（ER）充当窃听者以及其空间位置及数目的不确定性所引起的安全传输问题,提出一种采用TAS和功率分割策略的SWIPT-NOMA系统PLS模型。将ER的空间位置随机分布建模为泊松点过程,利用空间泊松分布的概率生成函数推导SWIPT-NOMA系统在独立或合谋窃听场景下的安全中断概率和非零安全容量概率近似表达式。数值计算与仿真结果表明:SWIPT-NOMA系统的PLS性能表达式具有很高的准确性,可用于研究窃听者密度、路径损耗指数、基站发射天线数、基站至远近端信息接收者之间的距离、功率分割因子等参数对其PLS性能的影响;相同参数设置下,合谋窃听的SWIPTNOMA系统相比独立窃听具有更大的安全中断概率、更差的PLS性能。