如今网络技术不断发展,互联网应用层出不穷,为人们生活带来了便利。但同时攻击技术也朝着复杂化和多样化发展,网络应用不断遭受到各方面的攻击,网络安全受到威胁。WebShell是黑客用于进行网络攻击的工具之一。黑客应用系统漏洞将WebShell上传到想要攻击的目标服务器上,通过WebShell随意地进出目标服务器。因此,检测网站服务器中的WebShell对保护网站安全和客户隐私至关重要。目前国内的安全防护类的产品都已意识到WebShell的危害,但它们的检测方法大多是基于字符特征匹配的识别方法。然而不同语言的WebShell代码不同,同一语言针对同类WebShell也存在多种变异的写法,攻击者通过对WebShell代码进行变形就能轻易绕过这类防护软件。如何能有效地识别出WebShell文件或WebShell通讯是一个亟待解决的问题。本文从文件识别的角度对WebShell检测展开研究,把WebShell检测看作一个模式识别问题,将机器学习方法引入到WebShell检测方法中。本文分析了WebShell类型特点、WebShell检测技术和WebShell逃逸手段,并研究了应用于WebShell检测的机器学习算法,介绍了机器学习应用流程、常用机器学习分类算法和检测效果。针对现有WebShell检测中存在种类偏向性,无差别的检测效果差,泛化能力弱等不足,提出了一种新的基于机器学习的WebShell检测模型。检测模型中的特征解析模块,从多个维度对WebShell样本进行特征提取,并利用基于EB-Relief的特征选择方法挖掘出高维特征中的取得最大效率平衡的最优特征子集。检测模型中的机器学习算法,选择了泛化能力和抗噪声能力强,能处理高维度特征数据集的随机森林分类算法。模型中还加入了结果校验和误报样本库更新模块,用于完善检测模型,不断降低检测模型的误报率。本文通过多次实验证明了多维度特征提取方法的合理性,和利用基于EB-Relief的特征选择方法能在降低特征集维度的同时使检测模型取得较高的精确率和召回率。本文将提出的检测模型与现有的检测技术对比,对比结果表明本文提出的检测方法对WebShell具有较高的检出率。