基于Storm的铁道供电监控信息实时流计算处理研究

来源 :华东交通大学 | 被引量 : 0次 | 上传用户:yanyansinx
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着电网规模和容量的不断扩大,现代工业配电网正逐步迈向能量与信息互动,海量信息处理和智能调度相结合的发展方向。与传统电网不同,智能配电网的调度监控需要以电网全景实时状态数据获取为基础,越来越多的采集点和越来越高的设备状态信息采样率,使聚集设备信息的调度监控系统必须快速处理庞大的数据量。考虑未来网络物联设备、新能源和电动汽车接入设备等的互连互动,更将加剧电网监测在大量状态信息实时处理中的压力,按照IEC 61970标准,以运行态实时数据采集与监视控制系统的公共信息模型为例,定义一个母线电压、馈线电流等模拟遥测类对象需50多个属性,一个隔离开关、断路器等状态遥信类对象需40多个属性,由于监测实时数据库多采用常驻计算机内存处理方式,将百万级、千万级,甚至更大量级的过量实时监测数据全部常驻内存,终将超出实时数据服务器的内存容量上限,从而造成常规实时数据库的存取性能和计算能力受限。此时,数据服务器CPU面对大量监控信息的实时访问和交互处理压力,可能会因为通信信道拥塞而产生较大的信息处理延时,影响了调度监控的实时性,因此,亟需开展有关大量实时监测数据快速处理技术的研究。结合电力领域的大数据现状,学术界提出引入以批处理模式和流计算模式为主的大数据处理技术用于实现调度监控海量监测数据的分布式存储和高效并行处理。但批处理模式受限于先存储后处理的一般运算流程,因此并不利于大量监测数据的次秒级实时处理,而流计算模式凭借其全内存计算、高可伸缩性、高容错性等优势,有效避免了内存数据库容量的限制,为调度监控中海量化监测数据的快速低延迟处理指明了一种全新的解决思路。考虑到铁道供电配电系统的特殊性,其对于调度监控信息流的处理实时性将很大程度影响到铁道供电的可靠性以及交通运输的行车安全。因此,本文结合实际工程应用中海量化实时监控信息的处理要求,构建基于Storm的铁道调度监控流计算实时处理系统,该集成系统以Storm流计算框架作为监测数据的实时处理引擎,以分布式消息系统Metamorphosis作为数据源接入模块,并搭建基于HBase的调度监控分布式存储系统。以铁路调度监控海量监测数据为处理对象,通过开展一系列拓扑实例集群测试,评测初始集成系统的整体计算性能。实验结果表明:流计算实时处理系统能够在获得ms级平均处理延时的同时确保数据处理的准确性;当发生磁盘消息堆积时,系统仍能保持较低的平均处理延时;且系统具备一定的负载均衡能力,可以应对大规模流计算拓扑任务。最后,本文还就进一步提升流计算实时处理系统的整体计算性能,提出了配置运行参数和设计并行滑动窗口的优化方法,对比优化前后的测试结果,验证了以上优化方案对于提高流计算并行处理能力,改善系统内存消耗的积极作用。另外,本文还考虑结合实时流计算和批处理机制,为铁路调度监控提供了更加完整和强健的大数据处理方案,即利用开源项目Storm-Yarn,在搭建好的Hadoop2.0资源管理系统YARN上部署Storm流计算框架(Storm-on-Yarn),并最终通过监测数据拓扑实例的集群测试验证该套结合方案的可行性。
其他文献
目前足式机器人主要有两种驱动方式,一种是液压驱动,优点是动力大、承载能力强、稳定性好,适用于室外复杂的环境;另一种是靠电池驱动,优点是清洁、灵活、噪音小,适用于室内和
钢铁工业是一国国民经济的支柱产业之一,各个国家都试图保护本国的钢铁产业,以维持国民经济稳定发展。自2006年起中国已经成为全球最大的钢铁出口国,转瞬使中国从钢铁净进口
采用2012年1月至2016年4月的月度数据,利用向量自回归(VAR)模型研究在岸与离岸人民币汇率价差的影响因素,结果发现:汇率价差与人民币升贬值预期呈正相关关系,与利差及资金存
目的制备可模拟临床标本的血浆Septin9基因甲基化(mSEPT9)质控品并用于室间质量评价。方法选择Septin9区域已发生/未发生甲基化的HeLa/Jurkat细胞进行培养,收集并抽提细胞基
从苏州国际教育园的实际出发,论述了建立教育园文献共享体系的必要性、可能性,并提出该体系构建的途径.
目的分析研究广东省顺德区2001年7月至2012年9月新生儿葡萄糖-6-磷酸脱氢酶缺乏症(G6PD)、先天性甲状腺功能减低症(CH)与苯丙酮尿症(PKU)的发病率及干预治疗效果评价。方法顺
以碘酸钾、三氯乙酸、甘氨酸和甲酸为添加剂,加入到标准镀铬液中,测定了镀液的分散能力、光亮电流密度范围、深镀能力、阴极电流效率。结果表明:甲酸使阴极电流效率和深镀能
中国传统绘画的发展史,由“画工画”向“文人画”演变是一个重要的过程。文人画主导地位的形成,源于元代画坛中心人物赵孟頫的审美理论“古意”说,“古意”是赵孟頫绘画理论的中
《联合国反腐败公约》明确了引渡在国际反腐败合作中的重要地位,促进了国际引渡制度的发展。由于反腐工作的需要,我国常向其他国家主动引渡,但我国对外主动引渡时存在缺乏引
目的探讨羧甲司坦联合沙美特罗替卡松气雾剂治疗对慢性阻塞性肺疾病(COPD)稳定期患者肺功能和炎性因子的影响。方法选取2014年3月至2015年2月我院收治的COPD稳定期患者104例,