随着计算机网络技术的发展和网络系统的膨胀，敏感数据正面临着被黑客攻击的威胁。入侵检测是企图入侵，正在进行的入侵或已经发生的入侵进行识别的过程，是一种主动的网络安全防御措施。入侵检测作为网络安全研究的重要内容，已经引起了国内外学者的广泛关注。目前入侵检测方法检测率较低，误报率和漏报率较高以及实时性较差等缺点，需要大量或完备的数据才能达到比较理想的检测性能。 本文分析了在新的网络环境中传统入侵检测方法面临的困境，并针对目前入侵检测中所存在的问题，提出了一种新的检测模型——基于群体智能算法的神经网络模型。 首先，本文阐述了入侵检测的概念，特点，分类，研究内容及传统入侵检测面临的困境；接着介绍了神经网络的基本原理和粒子群优化(ParticleSwarmOptimization，PSO)算法以及具有量子行为粒子群算法(Quantum-behavedParticleSwarmOptimization，QPSO)的基本思想，强调了QPSO在全局优化问题中比PSO算法具有更好的收敛性能。本文进一步阐述了神经网络的概念，特点，结构，并介绍了小波神经网络的算法，分类等。接着以小波神经网络(WNN)为对象，应用QPSO算法作为训练算法，给出了具体的操作过程。 接着，本文将QPSO优化的小波神经网络用于网络异常检测。为了测试性能，分别将遗传算法(GeneticAlgorithm，简称GA)，PSO算法以及QPSO算法分别训练小波神经网络，通过智能算法对操作变量的优化，在进行异常检测的过程中，尽量提高异常检测率，降低误判率。采用KDD99数据集进行的实验证明，基于QPSO的小波神经网络的网络入侵检测算法，有效的提高了检测率，同时具有较低的误判率。 最后，本文提出一种改进的QPSO算法，并将它用来优化小波模糊神经网络，建立的模型在KDD99数据集上进行实验证明，该模型是有效的。 本文的研究工作表明，用QPSO算法及改进的QPSO算法训练神经网络，其性能优于其他智能算法如：PSO算法和遗传算法，收敛速度也比PSO算法或GA算法快，这些结果表明，QPSO是一种高性能的神经网络训练算法，在用神经网络对网络异常检测中能发挥很好的作用。