基于Spark的水库群多目标优化调度系统

来源 :西安理工大学 | 被引量 : 0次 | 上传用户:jtk
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
水库调度利用水库对径流的调节能力,合理控制水库各时期的蓄水和放水情况,达到防洪、抗旱的目的。水库群优化调度问题是包含复杂约束条件的多目标优化问题,随着水利信息化进程的不断加快,水库调度所需的数据规模不断加大,使水库群优化调度的计算更加复杂,计算量更大,需要并行计算与大数据处理技术的支持。为此,本课题围绕水库群多目标优化调度问题,研究Spark大数据处理技术,并在水库群多目标优化调度系统中应用。作者调查了水库群多目标优化调度的发展现状;研究了大数据处理和并行化相关技术、水库群多目标优化调度的求解模型与基于遗传算法的优化调度方法;提出了基于Spark的遗传算法并行化方法。在此基础上,基于Linux操作系统、Hadoop2.7.1+Spark1.5.2+Spark on Yarn构建了Spark大数据支持环境,应用Scala语言完成了基于Spark的水库群多目标优化调度系统的设计与实现。该系统主要包括数据采集、数据存储、水库群调度并行计算三个模块。数据采集模块主要实现来自各个水库的源数据的接收、整理,并转换成大规模分布式数据库HBase所支持的格式。数据存储模块主要实现水库群调度数据的存储,通过HBase存储采集的源数据,采用HDFS存储Spark集群计算所需的内部数据与计算结果。水库群调度计算模块是整个系统的核心部分。采用遗传算法进行优化调度的过程中涉及到了一系列复杂的操作,数据量大、计算复杂,这些计算通过基于RDD的Spark的并行操作来实现,主要步骤包括RDD数据集的创建、种群的初始化、RDD并行适应度计算等。系统运行结果表明,基于Spark的水库群多目标优化调度系统不仅运算速度明显加快,而且水库群的年平均发电量也得到了提高。
其他文献
MTP(甲醇制丙烯)反应是近年来解决丙烯市场需求的极具发展潜力的生产方法。优化催化剂的研究始终都是工艺研究的重中之重。本文在微反应装置上,优选改性效果优异的金属两两组
适用于工业循环冷却水化学需氧量测定的常用国标法有2种,分别为高锰酸钾法和重铬酸钾法。笔者对水质进行跟踪实验,分别对两种方法测出的数据进行分析与探讨,以筛选出更适用于
在现场混装炸药中,矿山废润滑油主要应用于多孔粒状铵油炸药中。本文对比分析了废润滑油的再生工艺,包括蒸馏、过滤、精制等。根据现场混装炸药对油相材料的性质需求,对矿山
采用共沉淀法制备了镁铝层状双金属氢氧化物(MgAl-LDHs),再经焙烧制备了镁铝层状双金属氧化物(MgAl-LDO),采用FESEM、XRD进行了表征分析。考察了焙烧温度、吸附剂投加量等对M
<正> 自1992年2月~1999年2月,笔者采用止消通脉胶囊治疗Ⅱ型糖尿病(NIDDM)合并脑梗塞患者70例,并以二甲双胍、维脑路通治疗作为对照,进行系统观察,现报道如下。1 临床资料1.1
目的对急性期脑卒中患者给予及早康复介入后对其肢体功能恢复与康复的效果分析。方法本次研究选择我院79例急性期脑卒中患者,将其分组进行护理,以住院的先后顺序分为两组,护
目的分析对梅毒和艾滋病等传染病采取预防控制措施的效果。方法将2014年3月~2017年3月于我院接受血液检测与艾滋病疾病检查的106例体检者作为研究对象,对比采取常规管理模式(