Memcached内存替换算法研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:asiware
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着数据量的增长及应用的扩大,基于内存的数据库在数据访问过程中扮演越来越重要的角色。内存数据库相对于普通持久型数据库有着访问速度快、轻量、易管理等特点,被广泛应用于各种大型数据中心。Memcached作为一种常见的内存数据库在Facebook、Twitter、Sina等中得到应用,然而Memcached在内存替换算法上仍存在无法有效地处理数据大小变化较大的不足,当发生“钙化”现象时,Memcached会出现命中率降低、访问延迟增大等结果,严重制约了各种依靠Memcahced作为数据缓存的系统的性能。本文对Memcached所处理数据的特点进行了研究与分析,发现不同大小的Item的访问对一个Slab是否成为一个热的Slab影响程度不同,而不是以前研究中所提到的固定关系,同时研究了Slab与Item的关系,提出了基于影响因子与淘汰代价的Memcached内存替换算法。影响因子是根据不同大小的Item对这个Item所在的Slab是否成为热的Slab影响程度不同而设计的,大的Item比小的Item更能使Slab成为一个热的Slab,进而免于淘汰。同时重新定义了Item平均访问频度这一概念:单个item所承受的访问请求而不是整个Slab;发现了不同顺序的访问对Slab是否成为热的Slab影响程度不同这一现象并采用“半衰期”方法量化这种影响,最后利用这两个因素动态地更新影响因子的大小。淘汰代价指的是淘汰一个Slab和Item的代价,在Memcached内存不足时,通过最近访问次数、访问时间、大小等计算淘汰一个Slab及Item的代价大小来确定是淘汰一个Slab还是Item,而不同于以前研究中提到简单的主动与被动Slab淘汰策略。改进的方法提高了Memcached在内存不足时处理数据访问的能力。测试结果表明,改进的方法在命中率上有5%左右的提升并将读写延迟降低了2%到4.5%。同时改进方案优化了Slab和Item淘汰数量,最后将改进的方法在pNFS中进行了应用,测试表明改进的方法降低了pNFS系统的读写延迟,最高可达5%。
其他文献
随着信息技术的高速发展以及安全形势的迫切需要,人们对安防设备的智能性要求日益提高,智能视频监控技术已成为当今较为前沿的研究课题。其中,运动目标检测和跟踪技术作为智
随着互联网技术的发展,全球数据存储总量呈现爆炸式的增长,这对现有的存储系统提出了更严峻的挑战。一方面传统硬盘的存储密度已经接近极限,需要寻求瓦记录磁盘等技术来实现存储
视频中的文本信息是辅助理解视频内容的重要线索,有效地提取这些文本信息对视频内容的自动理解及检索等应用来说无疑是一项关键的技术。目前,商业OCR对普通图像的识别达到了
在分布式文件系统中,元数据服务器是整个系统的核心,副本技术是提高系统可用性和性能的主要方法之一。而现有的元数据副本技术大多只是简单的对元数据进行复制保存,忽视了元
近年来,随着计算机视觉检测技术的不断发展,其在畜牧业生产中的应用也逐渐增加。其中基于图像处理的奶牛体型线性评定方法成为国内外奶牛优化育种研究的一项重要内容。由于现
随着无源射频识别(RFID)标签在各个领域中的应用越来越广泛,其性能的稳定性也显得更为重要。然而目前社会上对其性能进行测试的标准和规范却一直没有形成完善的体系。针对该
近年来随着多媒体技术、计算技术以及虚拟现实技术的发展,互动投影正在成为人们日常生活中常见的交互式信息展示和娱乐工具之一。这种技术是运动检测技术与虚拟现实技术的结
网格环境中的资源是分布的、异构的、数量庞大而且随机变化的,网格节点可能随时加入和离开网格环境,这些特性会导致资源和任务运行信息的频繁采集,大量消耗节点资源,也容易导
在现实世界中,许多问题同时存在不确定性和复杂性。概率图模型可以有效地处理不确定性;一阶逻辑可以简洁地表示各种不同的知识和关系,降低复杂性。因此将概率和逻辑表示结合
在虚拟现实领域,对各种不同真实空间数据的处理是一个重要的研究方向,而纹理的处理和压缩是空间数据处理中的一个重要部分。纹理的数据量往往是真实空间数据中最大的一部分,如果可以实现较好的压缩处理,不但可以大幅减少空间数据的整体数据量,而且可以减轻对空间数据场景进行绘制的绘制引擎的负担。基于样本的纹理压缩技术针对图片中出现的重复模式和结构,提出了一种提取这些重复模式和结构的搜索方法,并且将提取的重复模式打