【摘 要】
:
互联网技术催生了大数据时代的来临。当前,大数据已经成为了炙手可热的研究焦点。由于海量的数据使得单个的计算机已经无法满足存储及计算的要求,各种大数据的计算模式及其对
论文部分内容阅读
互联网技术催生了大数据时代的来临。当前,大数据已经成为了炙手可热的研究焦点。由于海量的数据使得单个的计算机已经无法满足存储及计算的要求,各种大数据的计算模式及其对应的分布式计算系统开始不断涌现。MapReduce无疑是其中最为经典并且应用最为广泛的大数据计算模式。任务调度与资源分配一直以来都是大规模分布式集群研究的关键技术,这对提高大数据集群的计算效率尤其重要。Hadoop是通过各个从节点在不同的时间向主节点以“pull”的方式发送心跳请求获取任务的。现有的任务调度器只根据当前请求任务的从节点状况,来选择任务进行分配。而没有将更多的资源与集群中各个作业的具体需求联系起来,做出更优的调度方案。因此本文在对MapReduce的任务推测执行算法和任务调度算法进行分析和研究的基础上,设计了相关的改进算法。具体工作如下:(1)提出了预释放资源列表。通过Hadoop记录的历史信息和集群当前状况的监控信息,对节点的任务处理速率以及任务的剩余完成时间进行评估,可以预测出哪些资源即将释放,以此构建出预释放资源列表。从而使得Hadoop在进行任务调度的时候有着更大的优化空间。(2)设计了一种基于预释放资源列表的任务推测执行算法。从构建出来的预释放资源列表中,选择使慢任务更快完成的资源,从而达到使慢任务更快完成的目的。实验表明,基于预释放资源列表的推测执行算法能够有效的使有慢任务的作业更快完成。(3)设计了一种基于预释放资源列表的任务调度算法。根据作业在各个节点的本地性以及节点的任务处理速率,为每个作业构建一个预释放资源列表。通过将作业与预释放资源列表进行匹配调度,从而为每个作业找到最适合的资源。实验表明,本算法能有效提高集群的性能。
其他文献
质子交换膜作为燃料电池的核心部件之一,主要起到传导质子和分隔燃料与氧化剂反应的双重作用;Nafion膜作为现今最为普遍和商业化的电池隔膜,它具有良好的化学稳定性和质子电
随着知识经济时代的到来,创新成为了经济发展的基本特征,知识在知识经济尤其是创新经济中发挥着重要作用。产学研作为一种知识创新的渠道,得到了党和国家的高度重视。产学研发展至今,已经初步呈现出全方位、多元化、多层次、多方向发展的局面。然而,无论是实践还是理论均表明,尽管产学研取得了显著成效,但依然面临诸多亟待解决的问题。一方面,产学研合作实施的过程中,忽略了对各主体间知识过程有效组织的现实重要性,缺乏有
“赤橙黄绿青蓝紫,谁持彩练当空舞?”,可见波段激光在关系国民经济和国家安全的众多领域有重要的需求并已获得广泛应用。目前,红光(赤)和蓝光(蓝)波段,半导体激光和全固态激
焦化废水经生化反应后仍有可生化性(BOD5/CODcr)低,CODcr、氰化物和挥发酚等污染物指标不能达国家排放标准的难题。其中质量分数超过30%的氮杂环化合物(Nitrogen Heterocyclic
矢量地理数据作为国家基础地理信息建设的主要内容和地理信息应用的重要资源,其安全关系到地理信息系统产业的良好运转和高速发展。然而现有的矢量地理数据安全解决方案过度
随着社会信息化的进一步发展,企业对办公效率的提升越来越重视,越来越多的应用办公自动化。根据本单位的实际需求,在调研了集团内兄弟单位的办公自动化实行情况后,基于工作流
近年来,国内各个市场之间的竞争随着我国经济的转型发展逐渐加剧。现阶段,中国的经济正处于重要战略机遇期,同时,经济发展的新常态已经逐渐被大众所认知。在新常态经济中,不同的发展机遇孕育在不同的行业会,企业的管理模式要逐步转型向更高级的形态、更复杂的分工、更合理的结构阶段演化。目前,粗放式的财务管理模式已不可取,难以适应现阶段的发展趋势,弊端已经显现。对集团公司来说,积极探索企业管理模式的升级,创新管理
随着视频采集设备以及各种编辑工具的普及,用户可以轻松地对数字视频进行篡改伪造,传统的“眼见为实”的观念正在被颠覆。帧操作是数字视频特有的篡改操作,包括常见的帧复制
粒子通过势垒的隧穿是当前量子输运中最活跃的课题,特别是石墨烯的发现更刺激了对这个问题的研究。石墨烯中无质量Dirac-Weyl费米子通过电势的Klein隧穿不仅从理论上被证明,
连续变量量子密钥分发(CV QKD)是一种通过量子信道和经典信道在合法通信双方(记为Alice和Bob)之间进行密钥分发的量子通信技术。CV QKD的核心价值在于其安全性。噪声和攻击是