2019年,第六代移动通信(the 6th Generation,6G)无线峰会在芬兰召开,标志6G相关研究开始徐徐展开。会议审议发布的6G白皮书中,可见光通信（Visible Light Communication,VLC）因其高速率、高频谱、绿色、安全等优越的通信性能已被认为是6G研究发展的一个极其有前景的通信技术。但可见光信号易受距离、环境影响,导致信号衰减严重,这也成为制约VLC发展的重要原因之一。射频（Radio Frequency,RF）通信中常用的中继技术可克服VLC传输距离短的缺陷,进而改善可见光通信系统的传输性能和拓宽通信边际。此外,VLC要融入到传统RF通信环境,必定要与传统RF通信进行融合,才能应用于更多实际场景。基于上述背景,研究工作者提出了基于中继协作的VLC/RF混合通信系统模型,该模型能较好的发挥可见光的优越性能。但中继的引入在改善通信性能的同时也给通信系统带来了如下两点不足:一则引入了更多不确定性的安全因素;二则大规模的中继节点部署需要更多能源消耗。针对上述两点不足,考虑无线通信的广播特性,本文侧重对VLC/RF混合协作通信系统的物理层安全性能与能耗方面进行相关研究。主要工作内容如下:（1）对基于中继能量采集的混合VLC/RF协作通信系统物理层安全性能进行数学建模和理论分析。该中继配置了光能量采集装置,采集光信号中的直流偏置并用于中继信号译码和转发,研究了能量采集技术对系统性能的影响。在可靠通信方面,推导了端到端通信速率,并求取最优的直流偏置;在安全通信方面,主要推导了系统安全中断概率、平均安全信道容量等安全性能指标,并做了相应渐近分析。仿真结果表明合适的直流偏置能有效改善系统安全性能。（2）对点对点通信架构基础上做进一步的拓展研究,探讨多用户场景下的VLC/RF通信系统物理层安全性能。其中引入NOMA技术进一步提高系统的频谱效率,使系统模型更具有一般性。分别推导了高信噪比条件下、切比雪夫近似条件下两种情况系统安全中断概率闭式表达式和非零安全容量概率闭式表达式,并探讨了最优的功率分配因子。仿真结果验证理论推导的正确性,存在最优的功率分配因子使得整个系统安全中断概率最小化,合适的直流偏置能改善系统安全性能。