并行系统中ETL工具的优化

被引量 : 0次 | 上传用户:shenjing1566
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
ETL是将业务系统的数据经过抽取、清洗转换之后加载到数据仓库的过程,目的是将企业中的分散、零乱、标准不统一的数据整合到一起,为企业的决策提供分析的依据。所谓ETL,即Extract,Transform和Load的缩写。研究表明ETL部分的研制过程占整个数据仓库项目研发时间的百分之七十左右。目前有很多专业的ETL工具,除了一些开源的工具之外还有很多公司开发了专门的商业化ETL软件。最流行的ETL软件包括Informatica公司的PowerCenter,IBM公司的DataStage还有NCR Teradata公司的ETL Automation等。HP公司从2006年开始构建企业内部新的统一数据仓库EDW。采用了公司自行开发的ETL工具DIAL。DIAL运行在HP Integrity或者NonStop服务器上,充分利用了底层硬件的并行处理能力。具有很强大的数据处理能力。但另一方面,无论DIAL还是前面所提到的三个商业工具都没有对ETL工作流进行优化操作。本文在传统数据库SQL优化的理论基础上探讨了ETL workflow优化的方法,在实现过程中充分考虑了底层硬件的并行处理能力。本文提出了一种基于选择前推的逻辑优化算法,用于加快复杂的数据库数据事务处理。通过等价的工作流变换,找到代价最小的一种形式,从而提高数据处理的效率。另外为了充分利用NonStop服务器强大的并行处理能力,本文提出了一种基于文件分割的方法,将将一个大文件分割为多个小的文件,利用多个进程并行处理这些小的文件,从而提高了ETL的效率。上述方法在DIAL中得到了实现,实验结果表明,本文的优化方法取得了良好的效果。
其他文献
随着我国科技的发展和人们生活节奏的加快,网络购物以其在时间、地域及商品的多样选择等方面占有的优势而受到众多网民的青睐。我国的网络购物市场规模的扩大和网上购物者数
糠醛是一种通过半纤维素水解后得到的生物质衍生物,年产量达到30万吨。作为一种平台化合物分子,其催化转化具有重要的学术及工业应用价值。本论文围绕糠醛完全加氢制备四氢糠
目前室内设计行业不断发展,国内各大城市室内设计展与室内设计论坛等多元化活动层出不穷,将中国传统文化元素融合到室内设计中,既可以传承与保护民族文化,又可以增强室内设计
哈尔滨靖宇商业街区是道外区最繁华的商业街和中心街道,为了对其交通现状进行改善,研究总结靖宇商业街区可能存在的交通问题,并针对现状问题采用经验法建立了网络形式、交通
4月3日,由中国电建集团成都勘测设计研究院有限公司工程测试科学研究院自主研发的“超宽带雷达全过程实时监测”项目,在两河口水电站大坝心墙区正式开展试验。本次科研项目标
近年来,随着科技的不断发展,“地球村”越来越小,各个国家和地区间的贸易往来愈加频繁、高效、快速,跨境贸易的发展方兴未艾。跨境贸易中商品和信息的高效流通需要统一的标准
油田修造厂为了测试固井水泥车用液压泵、液压马达的性能,以保障其修理质量和优化配套系统,需要建造相应的试验装置。简述了直接加载和功率反馈试验方案及其测控系统的原理,并进
中学生价值观是学生个体思想政治素质的核心,在学生的全面健康发展中起着至关重要的作用。尤其是高中阶段的中学生处于一个非常特殊的阶段:身心矛盾较多、情绪不稳定、面临升
传统比较优势认为,一国选择进口贸易是由于该国生产不具备比较优势,对该理论进行拓展可知,东道国选择FDI也因FDI相对于本国投资而言更具比较优势。市场导向型FDI可以减轻由东
随着信息技术的发展,电子商务的规模越来越大,创造的价值越来越多,给人们带来了许多便利。但是随着网上产品的增多,消费者购买到合适产品的难度也在增大。因为网络上企业发布