Android恶意应用检测是保障用户信息安全的重要方法。为提高Android恶意应用检测的准确性,从特征选择、不平衡学习、对抗攻击三个角度进行了研究,提出了面向Android恶意应用静态检测的特征频数差异增强算法、基于不平衡学习的Android恶意应用检测方法、基于特征选择的Android恶意应用对抗样本生成和检测方法,通过实验及开发的APK检测工具和网站验证了方法有效性。主要研究工作和成果包括:1.提出了一种特征频数差异增强算法。针对恶意应用静态检测的特征选择,本文给出了良性典型特征、恶意典型特征、非典型特征等概念,通过计算特征出现在良性与恶意应用中的频数,去除静态特征中的非典型特征。实验结果表明,该算法可有效去除静态特征中的非典型特征,筛选出更有效特征。2.提出一种基于不平衡学习的Android恶意应用检测方法。首先,以基于集成学习的数据分组策略缓解数据的不平衡性,解决了部分不平衡学习所造成的影响。同时,为了进一步提高恶意应用的识别准确率,采用对损失函数赋予权重的策略,并设计了一种权重值确定方法。实验结果表明,本文从两个角度提出的策略都可以有效缓解不平衡数据的影响,提高检测性能。3.提出了基于特征选择的Android恶意应用对抗样本生成与分类检测方法。为了明确对抗样本生成过程和原理,设计提出了一种对抗样本生成算法,在真实恶意样本上生成对抗样本,该方法构成的对抗样本可以有效躲避多种分类算法的检测。同时基于对修改特征的分析,设计实现了多特征集合检测算法,该算法将特征分类两类,分别将两种特征集合作为分类算法的输入,并以相应规则进行判定,实验结果表明该方法可以有效检测对抗样本。4.采用Py Qt和Django技术开发了APK检测工具和网站。设计实现了算法选择、APK反编译、特征提取、特征选择、算法检测、结果展示等功能,成功将本文研究方法用于实际APK检测。主要贡献:根据特征在不同类别应用中出现的频率,设计实现了一种特征选择算法;使用数据分组策略与赋予损失函数权重策略,设计实现了一种基于不平衡学习的检测方法;基于特征在二维空间的分布情况,明确了对抗样本的生成原理,设计了对抗样本检测方法,实现了对抗样本的有效检测。