随着无线通信技术的发展,无线设备的数量也在急剧增加。第五代移动通信技术采用认知无线电技术和新的多址接入技术等方法来提升无线系统的频谱利用效率。然而,射频干扰攻击会对通信系统的可用性造成严重破坏。干扰器通过发射非法信号,可以阻止合法节点接入通信网络,也可以干扰进行中的通信,降低节点的通信速率。如何在新的通信环境下防御射频干扰攻击就成为了一个亟须解决的课题。以Q-learning为代表的强化学习算法具有免模型的特点,被研究者广泛应用于抗干扰的研究中。但传统Q-learning在处理大规模问题时的性能并不理想。在本文中,我们引入深度强化学习和迁移学习,并针对抗干扰问题的特点重新设计了算法模型结构。利用深度强化学习,算法处理大规模问题的能力得到显著提升,而迁移学习可以将智能体在无干扰环境下学习的知识迁移到抗干扰问题中,算法的收敛速度明显加快。实验结果证明,新算法的收敛速度远超传统Q-learning,并且可以用于环境状态和动作中存在连续变量的场景中。同时,干扰器也可以搭载强化学习算法,这就需要我们对多智能体强化学习问题进行研究。相比于单智能体问题,系统的动态性和不可预测性更大。所以,本文进一步研究了非正交多址接入通信系统中的多智能体抗干扰问题,并利用进化博弈论研究了系统的稳定状态和各智能体在稳定状态下的策略。仿真结果和进化博弈论推导出的理论结果相一致。