基于Spark平台GPU资源管理与调度的扩展与研发

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:aiwoba9982
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术的发展以及数据分析在生产中作用的提升,业界对于大规模数据的高效分析工具提出了迫切需求。如今大规模数据计算框架发展迅速,其中有传统的基于网格和硬盘的计算方式,也有当下广受关注的基于分布式数据库(例如HDFS,HBASE)和内存的计算方式。由于传统的并行编程模型存在的诸多局限性,并且如今并行计算应用场景的不断丰富,对新兴的分布式计算框架的适用性以及处理效率都提出的了更高的要求。该项目的研究目的在于增强其通用性,并在此基础上提高对大规模浮点计算的处理效率以及系统稳定性。本文主要的研究工作有两点:其一,是使计算框架满足多类型类资源调度的需求,实现多类资源统一调度,均衡分配;其二,是Spark计算框架开放式代码结构的设计,使计算框架具有更强的兼容性。因此,本文提出的设计方案是在充分利用Spark计算框架优势的基础上,将GPU应用运行流程合理嵌入Spark框架中。同时强化原有平台资源管理模块以及调度模块的功能,使其能在多资源类型模式下进行资源的统一管理,合理配比、调度、回收及抢占,提高资源利用率。在设计的初始阶段,需要确定研究方案的可行性与价值性。因此,通过分析当前开源大规模数据计算框架设计文档中对资源调度模块的设计方案,结合对IBM早期企业级数据计算框架中资源管理器设计方案的研究,以及对近年来开源社区和其他科研机构对Spark计算框架所做的优化设计的学习研究,确定此科研方案的可行性。然后,通过功能模拟,设计功能组件模型,模拟运行,最终确定设计方案。通过对设计方案的研究分析,确定工程使用模块化开发方式。通过对资源调度模块的研究,运行环境设计以及功能逻辑结构的调整最终实现Spark计算框架功能的完善,以及系统稳定性的提升。本文对工程所采用的设计方案进行了详细描述。该工程采用Spark原生开发语言Scala进行开发[1],设计计算框架合理整合GPU资源调度以及程序运行。并提出两种类型的资源调度模块的实现方式。实现对大规模浮点数据并行计算效率的优化,提高了数据的吞吐量。根据系统功能的测试结果可以看出,Spark计算框架能够良好的支持GPU应用的运行,实现对于大规模浮点计算负载的高效处理。同时计算框架能够合理配置CPU与GPU资源,从一定程度上提高工作效率以及资源利用率。
其他文献
大飞机机身、机翼、壁板等部件的装配连接是飞机大部件装配的主要工作。在制造智能化和数字化发展的过程中,机身、机翼、壁板等部件基于蒙皮进行自动制孔与连接,这一过程中新
MAPbBr_3钙钛矿量子点(PQDs)由于其优异的光学性能和简单的制备工艺,成为最具潜能的下一代照明显示材料。但是MAPbBr_3 PQDs仍面临一些技术上的难题:其一,如何在不对PQDs光电性能造成破坏的情况下提高MAPbBr_3 PQDs的稳定性;其二,如何制备连续平整的PQDs膜层;其三,如何有效地将激子限制在PQDs发光层中。这些不仅是基于PQDs的发光二极管(LEDs)面临的难题,也是
本文在制度演化论的视角下,分析了当代中国纵向政治制度的产生、延续和变革的历程。具体的个案研究表明,当代中国纵向政治制度变迁的路径是作为关键行动者的政治领导人自上而
在信息科技高度发展的今天,频谱资源显得越发珍贵。能够兼顾高频谱利用率和高能量利用率特性的高效调制技术,是解决频谱资源短缺的有效途径,具有重要的研究价值。其中MPPSK调
北洋政府时期合肥县土地质低类杂,土地生产能力低下,但政府一切收入皆依赖田赋。官方尝试通过裁书设柜的方式改变清末田赋征收的积弊,然而终究沦为“换汤不换药”的形式改革
1试題及简评:试題(2018年高考北京卷·理科19)如图1所示,抛物线C:y2=2px经过点P(1,2).过点Q(0,1)的直线l与抛物线C有两个不同的交点A,B且直线PA交y轴于M,直线PB交y轴于N.
超级电容器作为一种新型的储能器件,它拥有比电池更高的功率密度和比传统电容器更高的能量密度。镍钴层状双金属氢氧化物拥有较高的理论比电容和超电性能。本论文主要探究镍
随着互联网流量的迅猛增长、用户需求逐渐呈现急剧扩大化,使得人们对光通信容量、光层功能提出了更高的要求,这样就推动着研究者不断寻求更高速率、更高质量以及更大容量的光
背景:目前国际上主要采用欧洲泌尿放射学会(ESUR)和改善全球肾脏病预后组织(KDIGO)制定的标准来评价对比剂肾病(CIN),但究竟哪种标准更适合临床,缺乏前瞻性研究。在早期预测CI
近年来,我国农作物种植中不断受到病虫害的侵害,农作物大量减产,造成农业生产严重的经济损失。为减轻病虫害造成的经济损失,除了做好害虫的生物防治和物理防治工作,还需要加