当前互联网发展迅速,网络流量激增,人们对网络信息安全和数据保护提出了更高的要求,加密技术应运而生并且日益普及。然而,越来越多的网络攻击和恶意软件采用加密技术来隐藏自己的非法行为,传统的明文流量检测技术面对迷惑度更高的加密流量束手无策。加密的影响不仅体现在安全领域,还体现在服务质量和网络管理等方面,因此网络监管部门对加密流量识别的重视程度大幅上升。现有工业界的加密流量识别方法往往依赖于专家经验,耗费大量人力物力,且提取的特征以获取完整流量为前提,难以实现早期识别。为了避免繁杂的特征工程,本文通过深度学习的方式,提出加密流量识别的端到端方案,从而节省前期工作准备,获得更具有泛化性的识别模型。本文主要研究内容和工作如下:（1）提出一种基于图像处理的加密会话流量端到端识别模型,将提取原始加密流量前784字节转换为灰度图,引入Inception块来丰富对加密流量图的不同视野特征的表示,并通过卷积注意力块（Convolutional Block Attention Module,CBAM）加强关键空间特征的权重。在ISCX VPN-non VPN数据集上进行实验,结果验证了相比于普通二维卷积神经网络（Convolutional Neural Network,CNN）,Inception-CBAM模型在准确率上提高了12.62%,计算参数量降低了98.27%,提高了对不同业务类型流量的识别效果,同时相比传统特征工程方法简化了识别步骤。（2）为了充分利用加密流量的动态性和层次结构,从文本处理角度提出一种基于层次特征的会话级恶意HTTPS流量识别方法,综合CNN和长短期记忆网络（Long Short-Term Memory,LSTM）提取加密流量的数据包层和会话层时空特征,并引入多头注意力加强关键特征的影响,在CICAnd Mal2017数据集上进行实验,F1值相较于基准模型最高提升了16.77%,漏报率比层级模型HAST-Ⅱ和HABBi LSTM分别低了3.19%和2.18%。（3）提出一种基于残差结构的TLS加密数据包级识别方法,仅利用单个TLS数据包,通过残差连接的方式很好地解决了加深CNN网络时带来的网络退化问题。实验在CICAnd Mal2017和ISCX VPN-non VPN数据集上进行,该模型不仅保持了较低的复杂度,而且分类准确度相比于基准数据包识别模型具有大幅提高。（4）本文设计和开发了加密流量识别系统,应用本文提出的加密流量识别算法,集成了流量处理、加密恶意性检测和加密业务识别等功能,为网络监管部门提供实用可靠的加密流量识别原型系统。