信息技术与互联网的飞速发展,在给各行各业带来极大便利的同时,网络安全问题也愈来愈突出,各种网络安全入侵行为层出不穷。传统防护技术已经无法满足当今更加复杂的网络环境,因此研究高效可靠的网络异常检测技术,已成为网络安全研究领域的研究热点。在目前研究中,有基于多种思路设计的异常检测技术,但总体来说基于机器学习的方向是当前及未来的研究趋势。现今阶段,机器学习在网络异常检测中的技术实现,虽然在很多场景下取得了不错的效果,但是还存在不具通用性、准确率低、数据依赖性强等不足。针对这种现状,本文提出几种新的思路来用于异常检测技术,并设计实现了一套基于机器学习的网络异常检测系统。第一个是提出了一种基于高斯混合分布的变分自编码(VAE)异常检测算法模型。该模型是一种结合深度学习与统计学两个研究思路的实现,是一种无监督的学习方法。算法模型将仅仅针对样本数据中的正常数据集进行训练,通过变分自编码神经网络训练出的重构误差来检测异常。能有效解决网络异常检测中标记样本数据集缺失、对未知异常行为不敏感的问题。第二个是利用自然语言处理中的文本处理技术,提出一套原始日志特征解析模型。该模型利用N-gram和TF-IDF技术将网络中的原始日志当作文本内容进行切分处理,最终得到机器学习算法所需要的特征向量。该模型摒弃了传统机器学习人工手动提取特征的繁杂步骤,在搭配合适机器学习分类算法下能起到很好的检测效果。第三是基于微服务的程序设计思路,设计并实现了一套基于机器学习的网络异常检测系统,系统各个功能均由每一个微服务实现,各个服务之间通过消息队列实现数据传输与异步通信。具有良好的通用性和拓展性,且系统还提供了良好的可视化界面。