随着通信技术和互联网技术的快速发展,无线网络技术以其自身的低成本和可移动性优势而获得了广泛的应用。与有线网络相比,对无线网络的攻击更容易获取有价值和隐蔽性的信息,促使越来越多的网络犯罪是通过无线网络来完成的。这就需要一种有效地实时检测网络中攻击行为的入侵检测系统,来保护无线网络的安全。在无线网络中处理海量复杂入侵数据时,传统特征学习算法多采用机器学习进行简单的特征提取和选择,从而导致学习的特征对一些攻击类型无法有效表征。而神经网络在特征提取和分类上都展现出良好的性能,故越来越多具有不同结构的神经网络被应用到入侵检测模型中。但是神经网络的训练多采用反向传播梯度下降算法,容易造成陷入局部最小值的问题。传统机器学习和反向传播神经网络存在的问题都会导致在检测攻击行为时出现较大的误报率并且对特定攻击类型检测准确性较低。本文针对这些不足分别提出改进,具体工作如下:(1)研究传统特征学习算法的不足,提出基于SSAE和SVM-RFE两层特征学习算法。该算法由两部分构成,第一层是基于深度学习的特征提取,通过栈式稀疏自编码器来提取深层次的新特征,第二层是使用SVM-RFE将新提取的特征和数据集中原始特征一起进行加权特征选择。与传统特征学习算法相比,本算法学习到的特征更加有利于入侵检测的分类。(2)使用神经网络作为入侵检测模型的分类器,使入侵检测模型具有更高的可拓展性且能有效降低误报率。但神经网络存在反向传播梯度下降法训练参数时易陷入局部最优的问题。为了克服该问题,本文结合人工蜂群算法和帝王蝶算法在局部搜索和全局搜索的优势,提出一种混合算法来优化神经网络。实验结果表明,本算法能够克服反向传播算法易陷入局部最优的问题,并且与单独使用人工蜂群、帝王蝶、蚁群算法优化的神经网络作为分类器的入侵检测算法相比具有更优的性能。(3)将本文提出的两层特征学习算法与使用混合算法优化的神经网络分类器进行结合,组成新的入侵检测模型。两层特征学习模块负责特征的降维,减少冗余特征,选择与分类相关的特征子集。混合人工蜂群和帝王蝶优化的神经网络作为分类模块,负责对攻击进行分类。实验结果表明,本文提出模型能够提高入侵检测的准确性,尤其是对洪水攻击的检测具有明显优势。