随着中国工信部向三大运营商发放5G（The 5th Generation,5G）商用牌照,中国正式进入5G商用元年。社会进入万物互联的时代,无线终端和数据量都呈现指数式增长,对无线通信资源的需求越来越大。大规模分布式多输入多输出（Multiple-Input and Multiple-output,MIMO）技术得到了广泛的研究,它具有显著改善系统资源配置的灵活性和大幅度提升无线资源利用率的优点。为了满足不同用户的服务质量（Quality of Service,Qo S）,能够在同一时频资源块内发送下行数据和接收上行数据的全双工技术也受到广泛的关注。充分利用大规模分布式MIMO和全双工的网络辅助全双工（Network Assisted Full Duplex,NAFD）技术也应运而生。由于无线通信的广播特性,无线通信系统容易受到窃听和入侵攻击。利用无线信道特征的物理层安全技术能够有效提升系统的安全保密性,因此也成为当前的研究热点。本文主要研究网络辅助全双工的交叉链路干扰（Cross Link Interferce,CLI）抑制问题以及在CLI抑制后的安全传输问题。首先,研究NAFD的CLI抑制问题。NAFD有两种CLI:下行链路对上行链路的干扰（Downlink-to-Uplink,D2U）和上行链路对下行链路的干扰（Uplink-to-Downlink,U2D）,CLI的抑制对于实现灵活的双工方式进而灵活有效地利用无线资源至关重要。在基于NAFD的大规模分布式MIMO系统中以用户Qo S、远端天线单元（Remote Antenna Unit,RAU）能量、回程容量和上行用户能量为约束,建立以最大化上下行总速率为目标的优化模型。采用SDR-BCD（Semi Definite Relaxation-Block Coordinate Descent,SDR-BCD）方法求解原问题,即对原问题引入半正定松弛并运用线性化将非凸问题转化为凸问题,然后用块坐标下降法求解问题。仿真结果表明,SDR-BCD算法能够有效的抑制CLI的干扰,SDR-BCD NAFD比传统的时分双工（Time Division Duplex,TDD）、基于云无线接入网（Cloud Radio Access Network,C-RAN）的同时同频全双工（Co-frequency Co-time Full Duplex,CCFD）有更高的频谱增益;同时,当CLI被被抑制到低水平时,与TDD相比,SDR-BCD NAFD和C-RAN CCFD可以得到优越的性能增益。其次,研究NAFD的安全传输问题。在抑制了CLI后,在基于NAFD的大规模分布式MIMO系统中考虑窃听节点的存在,建立系统的安全传输模型。以RAU发射功率约束和上行用户功率约束下最大化上下行总安全速率为目标建立优化模型,联合优化RAU工作模式、预编码向量、上行发送功率和人工噪声（Artificial Noise,AN）。由于存在0-1整数规划并且优化变量是耦合的,于是将原问题分解为两个子问题:安全收发机设计和双工模式选择,并提出了一个两阶段优化策略。第一阶段,通过贪婪算法解决双工模式选择问题,主要的思想是,RAU的不同工作模式,代表RAU和用户之间不同的信道矩阵,这为贪婪算法提供了依据。第二阶段,在固定RAU工作模式下,运用等式变换、线性化方法将非凸优化变为凸优化,提出SCA（sequential convex approximation,SCA）迭代算法来设计安全收发机。仿真结果表明,系统的频谱效率随着RAU天线数的增多而增大;系统的频谱效率随着自干扰的减小而增大;贪婪算法与全双工算法和穷搜算法相比,实现了时间复杂度和性能上的折中。