随着网络应用的迅速普及,入侵攻击手段及类型层出不穷,其中拒绝服务攻击危害性尤为普遍。2018年,全球最大代码托管平台Git Hub曾遭受每秒高达1.3太字节（Tbps）的DoS攻击。但目前针对DoS攻击的检测多为采用单一的检测算法、网络流量特征也多凭借先验知识选取,这会导致在高维度、多攻击类别的网络流量检测中存在检测率低、误报率及漏报率高的问题。因此,本文综合考虑TCP/IP协议及802.11协议中信息特征的自动选择及不同深度学习算法,分别提出针对TCP/IP协议和802.11协议下,检测网络DoS攻击的改进思路及实现方案。具体工作如下:首先,本文针对现有研究存在检测算法单一的问题,提出基于概率图模型与DNN的级联检测模型。针对有线网络流量,在详实分析TCP协议通讯过程的基础上,对如数据包大小、网络负载、链路连接时长等特征进行统计分析,经概率计算后构建该网络数据流的概率图模型并作粗粒度分类,保留检测结果为“非假”的网络数据流。然后,将“非假”网络数据流输送至DNN深度神经网络模型作更进一步检测,判别出网络数据流中的DoS攻击数据流。其次,面对基于802.11协议下的无线网络流量集中DoS攻击检测问题,因其数据维度较高,发现特征手动统计分析方案效率低下、级联检测模型效果并不理想。为此,本文针对高维度数据下的DoS攻击检测问题,提出基于密集卷积神经网络的DoS攻击检测方法。第一步,在网络数据集特征较多的情况下,摒弃传统凭经验选择特征的方法,转而采用集成学习的思路来进行特征选择。具体做法是采取基尼指数的计算原则,对网络数据集利用随机森林方法进行弱分类,通过权重大小来选取重要性高的特征子集,并将其作为后续检测模块的输入信息。第二步,针对传统深度卷积神经网络梯度消失问题,引入Densenet算法对网络流量数据进行分类检测。仿真实验表明,在数据量较大的网络环境中该方法能保证检测结果的准确度。最后,在真实的数据集上,对本文所提出的特征选择策略及两个入侵检测模型分别进行了验证。数据集分别为数据量较小的CICDoS数据集、数据量大且维度高的AWID数据集。仿真实验结果表明,本文所提出的两个检测模型均可以得到较高的检测准确率、较低的检测误报率和漏报率。