分布式虚拟化计算平台高可靠任务拆分系统的设计与实现

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:iceagebirdxq
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网技术的高速发展和移动通信业务的兴起,用户的数据量呈爆炸式的增长,尤其是在电信行业。新颖的电信增值业务不断推出,电信客户群不断增多等都直接导致了电信业务量的迅速增长。此外,由于用户对电信业务的服务在实时性、安全性和稳定性方面有着极高的要求,所以就如何及时的处理海量数据集这一问题已成为了当前的研究热点。国际上提出的“云计算”概念就是用以解决对海量数据集的处理问题的。目前在这方面有着较成熟应用的主要有Google的云计算应用平台、Amazon的弹性计算云、IBM的蓝云计算平台,但是这些技术还没有应用于电信行业。本文主要研究分布式计算在电信项目中的应用。首先结合当前国内外的研究现状和发展态势,分析现有云计算的架构,再根据自身项目的具体需求,设计出分布式虚拟化计算平台(Distributed Virtual Computing Platform,DVCP)中的高可靠任务拆分系统。本文的主要工作有以下几点:第一,从整体上介绍DVCP项目。该项目对大规模数据集进行实时的采集、统计和分析。使系统在满足新兴的业务服务的同时还能继续提供传统业务服务。第二,任务拆分模块的设计与实现。本模块的设计基于Epoll和线程池的服务框架。采用Epoll异步事件驱动机制处理网络IO请求,采用线程池模型处理磁盘IO的异步操作,提高IO效率。任务拆分采用MapReduce并行计算架构,可以解决大数据集的分布式计算问题,采用这种方法对电信数据进行处理能够大大提高对数据统计分析的能力。第三,系统容错模块的设计与实现。为了保证系统的高可用性,本系统采用双机热备的容错机制,其实现模式为没有共享存储设备的纯软件方式,即将数据(包括状态值和业务数据中间结果)实时地从主设备中备份到从设备中,并保存在从设备的内存中。当主设备出现故障时,可进行快速切换。本系统通过负载压力发生器的测试,结果表明系统的功能能够正常运行,并且在保证实时性的前提下可以满足大规模用户同时访问的需求。
其他文献
在信息检索系统的运用过程中,由于一般用户无法提出完整规范信息的查询式,很容易导致查询漂移的产生。为了解决这个问题,查询扩展技术应运而生,但是发展到今天该技术还没有真
在经济和信息全球化加快发展的情况下,政府工作的信息化已经成为体现国家或地区竞争力的关键部分,也是提升国家和地区竞争力、争得经济和社会发展先机的关键。   本论文结合
随着信息技术的发展,大规模数据的不断涌现使得信息可视化领域受到越来越多的重视,其中焦点与上下文技术成为处理大规模数据的有效手段之一。鱼眼视图是焦点与上下文技术的主要
学位
随着集成电路芯片集成度的不断提升以及电源电压等比例缩小趋势的放缓,功耗成为当前首要的设计瓶颈。有限的功耗预算(Power Budget)促使微处理器设计在结构和实现上发生了质
随着经济的发展和社会的进步,我国城市化和现化代的步伐也在加快。城市经济发展的同时,城市道路车辆急剧增加,近几年城市道路拥堵现象时有发生。现阶段交通管理水平及智能化程度
本系统以实现大豆生产的高产、优质、高效为目标,采用多学科交叉与有机结合,信息专家与农学领域专家相结合,从宏观到微观、从定性到定量综合集成的方法而建立的。  本研究基于
随着Internet网络的发展,以及多媒体技术的广泛使用,传统“尽力而为”的数据传输服务显然已经不能满足网络的需要,高效可行的多约束QoS(服务质量)路由算法成为了研究的关键问题
在现代工业中,焊接起着非常重要的作用,焊缝的质量对产品的寿命起着至关重要的作用,然而在实际应用过程中,焊缝缺陷情况时常出现,使得焊件存在极大质量隐患。在这种情况之下,
21世纪,随着科学技术日新月异的发展,计算机技术、自动控制技术、电子技术都迅速发展起来,农业机械也向着高度自动化、智能化的方向迈进。与此同时,由于人口老龄化和劳动力的缺乏