在这个移动互联网快速发展的时代,Android系统凭借着高开源性几乎占据了绝大部分移动智能终端操作系统的市场。黑客受巨大的经济利益驱动开发出大量的基于安卓的恶意软件,这些软件已经对每一个移动端用户个人隐私以及私人财产安全造成了严重的威胁。面对大量的安卓恶意软件的威胁,传统的安卓恶意软件检测方法存在一定的局限性,尤其对于经过代码混淆和变种后恶意软件的检测准确率非常低,因此,现在迫切需要研究出准确率更高,速度更快的安卓恶意软件检测方法。本文重点研究基于深度学习的安卓恶意软件检测技术。主要工作如下:(1)本文首先介绍Android体系结构、应用程序四大组件、Dalvik虚拟机和ART(Android Run Time)、APK文件,及其安全机制。重点介绍内核安全、运行环境安全和应用程序框架安全。然后,通过文中对大量的Android恶意程序收集后,分析并总结出了在Android平台下几乎所有安全威胁的来源和Android恶意软件的种类。最后,详细分析了现有的Android恶意软件检测技术以及优缺点,主要包括基于静态特征和动态特征的病毒软件检测技术,以及非常流行的基于机器学习的检测技术。(2)通过相关背景理论的介绍,本文针对传统的恶意软件检测技术中存在的对未知恶意软件检测准确率低、检测速度慢、跨平台检测通用性弱等问题,提出了一种新颖的基于深度学习的恶意软件检测方法,该方法首先通过结合灰度图像生成算法将恶意软件转换成灰度图像,然后使用卷积神经网络算法自动提取这些恶意软件图像纹理特征,并同时对这些特征进行学习和训练,构建出一个基于图像纹理和卷积神经网络的恶意软件检测模型。(3)本文还针对卷积神经网络训练过程中常出现的过拟合问题,提出了一种基于模型网络参数优化的恶意软件检测技术,分别研究了卷积核的尺寸、激活函数、梯度下降训练优化算法以及Dropout丢弃率等卷积神经网络参数对模型训练过程中过拟合问题的影响,通过对模型不同参数的调节并进行实验,找到了避免模型训练过拟合问题的最优模型参数。此外,还提出了一种改进的激活函数,不但修正了数据的分布,而且保留了 ReLu(Rectified Linear unit,ReLu)非饱和修正线性函数的快速收敛的优势。(4)本文还针对小样本量恶意软件图像模型训练不足导致检测准确率低的问题,研究了基于卷积神经网络的迁移学习方法。主要构建了两个基于卷积神经网络的混合深度模型,并使用minist大数据集预训练这两个混合深度模型,使得网络参数得到最优,再通过小样本去微调模型,最后,通过实验对比验证了迁移学习方法在提高小样本量下恶意软件检测准确率方面的具有一定的效果。