在漫长的无线通信发展过程中,信号调制识别技术一直是一项热门的研究课题。伴随着5G网络和物联网时代的到来,无线通信环境愈加复杂,同时信号类型也逐渐增多,传统的信号调制识别方法已难以满足如今的通信需求。作为当前人工智能领域里最为火热的技术,深度学习在计算机视觉和自然语言处理等领域里取得了丰硕的成果,其核心卷积神经网络可以很好地解决模式识别、特征拟合和多维度分类等问题。因此,如何将深度学习技术运用到无线通信系统中,来克服和突破传统调制识别技术的缺陷,是本文的重点研究内容。本文将信号调制识别任务看作成深度学习中的分类任务,设计了基础的信号自动调制识别神经网络(AMRNet)。考虑到卷积神经网络的时间复杂度,本文提出用轻量级网络结构代替标准卷积结构,在不损失识别准确率的前提下,提高了系统对通信信号的处理效率。其次通过对通信信号数据本身的分析,提出使用注意力机制,从时间和空间两个维度对通信信号进行特征提取,以此来提高识别准确率。在无线通信系统的实际应用中,通信质量受噪声干扰大,因此本文进一步对低信噪比条件下的信号调制识别问题提出了两种算法:算法一提出了专门的焦点损失函数来提高网络对低信噪比信号的关注力,从而提升信号识别准确率;算法二提出了使用生成对抗网络的方法来对低信噪比信号进行去噪声处理,从而明显提高了信号调制识别准确率。最后本文基于USRP N210硬件平台、GNU Radio软件平台和PyTorch深度学习平台实现了基于信号调制自动识别的无线通信系统,对本文提出的方法进行了论证。