随着移动通信设备数量的快速增长以及无线通信的广泛应用,下一代无线网络对频谱效率和大规模链接提出了更高需求,这也导致对无线电频谱资源的巨大需求逐渐增加。认知无线电技术是通过允许次要用户与主要用户共享频谱的方式来提高频谱效率的有效方案。然而,由于认知网络的高度动态性和开放性而导致的安全问题也不容忽视。针对认知网络存在的安全性问题,最近,由于智能反射面能够控制无线传播环境增强通信系统的安全性引起了广泛的关注。具体而言,智能反射面可以将来自不同通信链路的信号相干地添加到所需的接收机处,以增强接收到的信号强度,或在非预期的接收机处具有破坏性,以避免信息泄漏。因此,本文就智能反射面辅助认知网络的物理层安全传输策略展开研究。首先考虑了多窃听场景,利用智能反射面和人工噪声辅助认知网络安全通信有效提高了次级系统的保密速率。其次考虑了次级用户不受信的认知网络安全通信场景,次级用户可能去窃听主用户的保密信息的情况,利用智能反射面辅助通信以提高主用户的保密速率。本文将主要研究内容归纳为以下两点:（1）智能反射面辅助认知网络的安全通信。该场景研究了在存在多个窃听者的情况下,基站与次级用户进行合法通信,并受到主要用户的干扰温度的限制。研究中我们提出了联合优化基站发射波束成形和智能反射面相移矩阵来最大化次级系统保密速率。由于目标问题是非凸优化问题,我们提出连续凸近似法和半定松弛技术来处理非凸问题,并且通过交替迭代算法求得目标问题的最优解。（2）次用户不受信的智能反射面辅助认知网络安全通信。在本研究中提出了一个新观点,即次用户不受信的认知网络安全通信。在该认知网络中,主用户和次用户都有特定的信号发射机经由智能反射面辅助通信。其中,次级用户是不受信的,可能去窃听主用户的保密信息。我们的目标是在次用户最小信息速率的约束下通过联合优化主用户发射机和次用户发射机的波束成形和智能反射面的相移矩阵来最大化主用户的安全速率。