随着网络业务类型的多样化和网络部署规模的快速增长,由信息交互产生的网络流量成倍增加,极大消耗了整体网络带宽,给网络管理带来新的问题和挑战。网络流量检测作为监控网络性能、保障网络服务质量的手段之一,已受到国内外学者的广泛关注。由于机器学习能够对网络流量的行为统计特征进行有效整合,研究基于机器学习的网络流量检测方法具有重要意义。本文总结了机器学习在网络流量检测中的研究现状,针对当前流量检测方法实时性差的问题,提出一种改进的XGBoost网络流量检测模型。该模型通过引入Boruta算法,创建阴影特征和随机森林分类器,依据特征重要性分数对原始流量特征进行筛选,缩小了特征规模;此外,将XGBoost在特征粒度上并行化,利用Block结构保存特征值的预排序结果,并在确定最优分裂点时重复使用该结构,减少计算量。在实验设计中,利用Python搭建环境并实现了上述模型功能,然后基于林肯实验室发布的网络入侵数据集进行了验证。实验表明基于改进的XGBoost网络流量检测模型的特征规模缩小25%,模型训练时间也由325秒缩短至198秒,提高了流量检测的实时性。针对当前网络流量检测方法准确性低的问题,本文提出一种基于动态深度森林的流量检测模型。通过多粒度遍历模块和级联森林模块分别实现流量特征的重组和流量类型的分类。在多粒度遍历模块中,通过构建动态选择器将流量特征进行组合遍历,加强了模型的表示学习能力;在级联森林模块中,通过引入层层相连的树形结构和动态层级增长策略限制模型的复杂度,在提升分类性能的同时防止过拟合。通过实验设计和结果验证,动态深度森林模型的流量检测精度提升约12%,误报率由19.4%降低至2.8%,全面提升了流量检测的准确性。