随着网络覆盖率变广、网络接入成本降低以及便捷的网络通讯方式,让越来越多的人开始加入互联网这个虚拟世界。但网络空间有各种各样的异常行为和攻击行为,给网络空间安全带来巨大的挑战。特别是在网络社交方式变得非常流行,社交网络web节点服务器保障工作应受到重视,其中各种异常行为操作和网络攻击导致服务器中的信息泄露是网络主要威胁之一。因此对网络流量的分析和异常检测的课题逐渐受到许多研究人员的关注。当前异常流量检测研究中主要以深度学习方法为主,但针对基于深度学习模型对流量检测的效率和模型的吞吐量考虑不足,同时在当前基于卷积神经网络中,由于自身关注局部特征信息而忽略全局特征和空间特征位置关系信息,导致识别不足等问题。本文针对上述所描述的问题展开研究,主要研究工作如下:○1提出一种数据处理方法,使用人工特征工程降低特征向量维度,同时采用攻击频率对数据进行采样,然后将数据流按段划分,提升模型的检测效率和单位时间内数据吞吐量。针对流量数据段,还提出一种层级注意力机制的异常流量检测模型,通过把三种层级的特征信息进行融合,进而提升模型的检测能力。并在其中引入注意力机制,着重关注数据流段内的异常流,能够合理利用有限的计算资源。○2提出一种基于k-means路由算法的胶囊网络流量检测模型,采用矢量化特征替代传统神经网络的标量特征,能够更好的捕捉流量特征之间的关系和细节,且胶囊具有等变性。同时所提出的k-means路由算法优于原始动态路由算法,具有更好的鲁棒性、更精确的特征聚类和更少的测试时间。针对胶囊网络模型采用会话数据流转成灰度图的预处理方式,它能够有效地保留流量数据中关键信息。○3针对在本文第三、四章的实验中的数据均是来自开源数据集,为了将所提出流量检测模型在真实环境下对恶意流量和社交网络应用流量进行评估。本文根据已有的实验设备条件,构建一个真实环境下局域网环境,并对该网络进行渗透攻击测试和社交网络应用软件所产生的流量采集并清洗,获得一个Test＿Data用于测试。综上所述,本文对当前的异常流量检测方法进行深入的分析,根据检测中不同侧重点,构建层级注意力机制模型和基于k-means路由的胶囊网络。并通过在多个开源的数据集上证实,所提出流量检测模型均有不错的检测性能。且对比第三章与第四章数据处理方式发现,在相同数据集和同一模型下,会话流转成灰度图数据处理比人工特征工程效果更佳。在最后基于k-means路由的胶囊网络能够有效识别Test＿Data中各类流量,F-score评估均达到了99%。