基于Hive的高寒草地海量数据分析系统设计与实现

来源 :华南农业大学 | 被引量 : 0次 | 上传用户:silversandcgliu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
高寒草地生态系统是我国海拔最高、面积最大的生态系统,也是我国最重要的畜牧业基地之一。由于高寒生态系统的敏感性,全球气候变化和人类活动的影响,近年来高寒草地生态系统开始退化加速。解决高寒草地的退化问题需要对高寒草地退化现状进行综合评价,并针对性的提出退化草地的治理对策,而高寒草地退化的定量分析需要相关数据作为支持。近年来,我国在高寒草地生态系统监测、草地生态修复方面进行了大量的工作,使得高寒草地的监测数据也迅速增长。大规模的高寒草地数据中包含着气象观测、水土保持、草地特性、样方监测、资源统计、水质评价等各方面的信息,通过对海量数据进行挖掘及综合分析,能够为政策制定及科学决策提供参考。基于海量数据的草地退化评价的基础在于数据的存储与分析,因此,对高寒草地的海量数据进行可靠存储和高效分析有着重要意义。本文以高寒草地海量数据存储与分析为需求,对基于Hive的高寒草地海量数据分析系统进行整体设计,并对系统进行具体的实现。首先,通过节点配置、集群配置、Hadoop组件配置等步骤完成对Hadoop、Hive、Sqoop环境的独立部署,实现对系统基础平台的搭建。然后,通过使用EM算法进行数据填充、导入数据、数据分区存储等步骤完成数据ETL及数据存储。之后,通过函数编码实现系统内各查询功能、分析功能,将数据分析结果进行后置处理,完成高寒草地海量数据分析系统的实现。最后,进行系统性能测试,通过实验的方式,对系统的各项性能进行测试,评估系统的价值。主要实验结果如下:(1)Hadoop平台数据存储、读取性能测试。在文件数量为10个,文件大小增加时,总体数据规模的增大,系统整体存储、读取时间一直处于增长的状态,但是平均运行时间(平均处理1MB数据所使用的时间)处于降低的趋势,说明随着数据量的增加,系统并行处理海量数据的能力得到体现。(2)数据查询效率测试。使用2014年青海省称多县草地样方监测数据和部分虚拟数据,总数据量约为3958万条(7.56GB),对Hive集群以及关系型数据库SQL server进行数据查询的效率进行对比。结果显示,当查询数据量为3958万条时,Hive集群数据查询的时间为SQL server的67.8%。说明随着数据量的增加,系统数据查询的效率比SQL server更高。本文使用分布式数据仓库技术应用于高寒草地海量数据的存储与分析,较传统的数据存储与分析技术相比有明显的进步。本系统对海量数据处理效率高,可开发性强,采用的设计方法和设计思路是可行的,可以很好的满足海量高寒草地数据的存储和分析要求。
其他文献
面对内外环境的双重压力,我国劳动密集型企业转型升级迫在眉睫。本文简要梳理了当前我国劳动密集型企业研究现状,探讨研究中存在的问题,并对深化研究提出一些建议。
成本核算是企业财务管理的重要内容之一。企业成本核算的最终目的是为了准确的计算出产品成本,为企业决策者提供成本数据,以便于决策者做出正确的决策。随着市场经济的不断扩
本文报道了一种使用氯化锰为锰源制备四氧化三锰纳米材料的方法,并将该材料用作超级电容器电极材料进行电存储性能研究.以St?ber法制备的二氧化硅小球为模板制备四氧化三锰纳
职业接触苯酐对健康的影响齐鲁石化公司中心医院(255400)胡富荣苯酐(PA)又名邻苯二甲酸酐、酞酐,广泛用于塑料、树脂、香料(精)、杀虫剂、油漆、染料和苯甲酸等的生产,随着近年工业发展,其生产
<正>改革开放以来,在各行各业研究新技术革命对策的形势下,由于社会信息的急剧增加,现代信息技术和设备的引进以及国内信息设备制造业的迅速发展,现代化办公设备已进入我国各
我国私募股权投资基金(简称PE)的发展和经济体制改革是齐头并进的,近年来,我国的创业风险投资业发展迅速,在政府引导和股市推动的双重作用下,机构数和资本额不断创出新高,但
<正>在光绪二十六年,发生了罪恶的英、美、俄、德、法、意、日、奥的八国联军入侵中国、直接镇压义和团运动的事件。七月二十一日黎明,在八国联军进犯北京的枪炮声中,慈禧为
《北风行》是李白幽州之行的最后一篇作品,应该把《北风行》同李白幽州之行的全过程联系起来考察。《北风行》的情调风格、思想倾向与幽州之行的其他诗篇判若云泥,这耐人寻味的
<正>心肾不交是指心肾之间水火阴阳的交济失调。心属火,位居于上而属阳;肾属水,位居于下而属于阴。位于下者,以上升为顺;位于上者,以下降为和。《素问.六微旨大论》说:"升已
随着我国信息科技的不断进步,传统制造业与信息技术的深度融合推动了制造业升级优化。板式定制家具由于满足个性化定制及批量化生产的需求而快速发展,但是其质量管理仍以纸质