计算机的运行离不开软件,而随着计算机技术的发展,软件已不知不觉融入到人类生活的方方面面。软件漏洞又被称作软件缺陷,是计算机软件在设计与实现过程中存在的缺陷与不足。不同的软件漏洞拥有不同的危险等级,对于较严重的软件漏洞,可导致非法用户利用软件漏洞,对计算机进行非授权操作,危害计算机系统的安全。严重时,软件漏洞不仅能够执行任意代码,甚至可以使攻击者获得系统的最高权限。因此,软件漏洞时刻关系到每台计算机、每个人的系统安全、信息安全,甚至是人身安全、国家安全。因此,研究如何阻止利用软件漏洞而进行的缓冲区溢出攻击,将具有十分重要的意义。本文首先研究了各种软件漏洞利用相关的基本原理及相关的典型技术,并对各种漏洞利用方法进行了分析及总结。针对通过恶意代码执行的攻击方式,本文提出了一种通过指令白名单进行检测的技术,以阻止恶意代码的执行。同时,针对通过复用程序指令来进行攻击的ROP攻击方法,本文提出了一种有效的检测方法,阻止ROP攻击。另外,针对利用全局偏移表进行的攻击,本文给出了一种对全局偏移表进行监控的方法,来防止利用全局偏移表的攻击。利用上述本文提出的方法,附加对子程序运行的监控,本文设计并实现了Linux下的软件溢出攻击阻断工具。该工具具有不需要提供被保护软件源代码的优点。利用该工具,可准确阻断针对程序中已知及未知的软件漏洞而进行的攻击。最后,通过在真实的攻击案例下进行实验,本文对上述方法的有效性进行测试。实验结果表明,本文提出的方法能够阻断大部分缓冲区溢出漏洞的攻击,有力的保障系统的安全。通过将本文提出的方法与其他方法进行对比测试,证明了本文提出的检测方法无论是有效性还是性能上均优于同类的其他方法。