从智能手机终端的兴起和不断更新换代可以看出,针对手机平台的研究得到了非常广泛的关注。其中,Android作为最广泛应用的手机平台,针对它的安全性研究则成为了当前研究者们的重点所在。目前该平台下对恶意程序的检测方法的研究主要分为静态检测和动态检测两个方向。其中,静态检测方法的检测局限性较大,对于日益增长的恶意程序的变种、加壳等行为检测存在较大的漏洞,相较而言动态行为检测则能较好的实现对恶意程序的识别和检测,以此越来越受到研究人员的重视。据此,本文针对动态检测方向展开研究,提出一种基于API对象调用关系图的恶意行为检查方法。该方法通过对应用程序的API对象调用关系的提取,将其与图结构相结合,建立程序的恶意行为特征,并通过图匹配算法来实现对恶意行为的检测。首先,本文对Android系统平台做了简要介绍,并对该平台上的恶意程序的行为特征做了详细分析,对现有的动态检测领域的相关研究方法做了总结和分析,据此选择将API调用对象关系作为研究对象,并通过Android虚拟平台来实现API调用数据的提取、筛选,通过编写分析工具实现对API对象调用关系的分析,这也是本文的难点所在。其次,选择适合API对象调用关系特征的图结构进行模型的建立,介绍并分析经典的图同构匹配算法,并根据实际情况对选取的算法进行改进以提高匹配的有效率,进而将建立的API调用关系图模型进行精确的匹配,实现恶意行为检测的目的。最后,根据本文提出的检测方法设计并实现Android恶意程序检测系统,通过对样本程序进行实际检测获取并分析了检测结果,从而验证了该检测方法的有效性和适用性。