面向多类型数据源的数据仓库构建及ETL关键技术的研究

被引量 : 54次 | 上传用户:star2006111
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
数据仓库的创建与应用是企业信息化发展的必由之路。近十年来,为满足数据的集成、管理和决策支持的目的,在世界各地出现了大量的、不同规模的数据仓库系统。数据仓库数据源的类型也越来越多样化。尤其是Web数据源,文本数据源等实时数据源的出现,给数据仓库的构建以及ETL提出新的挑战。数据仓库技术面临若干紧迫问题:如何构建一个完善的数据仓库体系以适应多种类型的数据源;如何高效实现数据仓库体系中各个层次的ETL过程;如何保证ETL的实时性以及如何改进数据仓库的访问控制模型等。本文针对多类型数据源的特点,首先分析现有数据仓库的需求和数据源的种类。本文以国家海洋数据仓库系统为例,利用局部ETL和全局ETL两段式ETL过程;演化面向多类型数据源的数据仓库体系结构,包括抽取层、归档层、汇总层、仓库层和应用层,并且详细论证了每一层的设计思路和作用。基于此,本文研究了每一层涉及的若干关键问题。抽取层和归档层主要完成数据的抽取和归档工作,该层的ETL软件实现从数据源中抽取数据并装载到归档库中,因此称为局部ETL。本文重点研究了无结构的Web页面,半结构化文本和结构化的关系型数据库这三种数据源的局部ETL技术。首先,针对无结构的Web页面数据源的局部ETL问题,提出一种较传统方式更为高效的Web页面采集存储方法。把页面按照其布局特点分为若干个区域,把这些区域作为变化检测、存储和处理单元。其次,针对半结构化文本数据源的局部ETL问题,重点研究了半结构化非白描述型科学文本数据,提出了一种文本数据关系化方法,实现从文本模型到对象模型进而到关系模型的转换。此外如何保障关系化的效率和安全性也是本研究的重点。再次,针对结构化关系数据库数据源的局部ETL问题,本文分析和总结了影响ETL引擎性能的主要因素,提出了一种基于分布式数据库的ETL新方法,还提出了一种元数据驱动的ETL方法来克服现有ETL工具和手工编码方式的不足。基于E-LT方法,本文利用SQL语言实现了元数据驱动的ETL工具并详细测试了其执行性能。汇总层和仓库层完成从各个数据源的归档区到数据仓库的数据集成工作,该ETL过程称为全局ETL。由于数据仓库的实时性要求,多数据源全局ETL不仅要面临数据集成问题,还要保证ETL的实时或是近实时调度。本文提出了按照集成的自身规则触发ETL过程,并分配资源,以解决全局ETL的调度执行,以及它和其它数据仓库应用之间争夺数据仓库资源的问题。由于实时ETL执行过程中独占数据仓库资源,应用端一时无法连接数据仓库而处于一种离线状态。本文设计了一个支持离线运行的客户端框架,使得短时离线的过程对客户端用户透明。该离线客户端框架属于环境可感知软件框架,具有一定的通用性。数据仓库应用层主要包含查询检索,OLAP,数据挖掘等应用,还包括各应用的访问控制系统。数据仓库应用乃至数据仓库自身都需要一种良好的访问控制机制。本文提出两种访问控制模型。基于角色和上下文的访问控制模型是经典的基于角色的访问控制模型的扩展,适用于数据仓库应用以及任何面向最终用户的软件系统的访问控制。基于意图的访问控制模型适用于数据库系统,数据仓库系统等面向应用软件的系统的访问控制。本研究还在后者的基础上进一步研究了意图间的层次关系挖掘算法。总之,本文提出了一种面向多类型数据源的数据仓库体系结构和层次划分,基于该体系结构对各层次的关键问题进行分析和研究。所提出的所有模型和算法均给出实现方法或运用在实际项目中,理论分析和实验证明了所提出方法和技术的可行性和有效性。整个研究内容围绕着数据仓库和ETL过程的设计和实施,保证了数据仓库系统中数据的流动和访问的实时、灵活、高效,对数据仓库的建设和ETL的实施有一定指导作用。
其他文献
[目的/意义]通过深入剖析加拿大弗雷泽研究所的运行机制和发展态势,为我国智库的建设和发展提供参考借鉴。[方法 /过程]采用文献调研法和网络调研法,对加拿大弗雷泽研究所的
企业社会责任理论作为马克思主义经济伦理思想的重要组成部分,它要求企业应同时兼顾经济利益与社会责任。企业社会责任包括经济责任、法律责任、道德责任和慈善责任,其中道德
油菜菌核病是一种世界性病害,在五大洲的100多个国家皆有发生,其地理分布极为广泛。它是由核盘菌(Sclerotinia sclerotiorum)引起的一种真菌病害。在中国,油菜菌核病居油菜三
中药固体制剂多数具有不同程度的吸湿性,主要表现为吸湿后变软,结块甚至霉变,吸湿性是中药固体制剂较难解决的问题之一。从防潮角度对中药固体制剂的研究报道很少。防止中药
冷战后中国的国际战略中其中一项重要原则,就是“立足亚太,稳定周边”。2002年中国与东盟签署的《南海各方行为宣言》可以看作是中国在南海政策上的里程碑。在《南海宣言》基
第三次信息革命改变了传统的通讯方式,互联网的产生大大降低了通讯成本,使全球联系更为便捷也更加难以控制。在国际政治领域,这一变革带来的最直接的影响就是权力的分散。权
钢铁自动化生产线是钢铁产品生产的重要基础。生产线的动态调度、设备稳定性和工艺参数的动态调整直接影响着生产效率和产品的质量。本文针对钢铁自动化生产线的监控管理模式
恶性肿瘤严重威胁着人类生命和健康。手术、化疗和放疗是肿瘤治疗的三大手段,其中化疗在肿瘤多学科、多手段的综合治疗中发挥着举足轻重的作用。然而肿瘤化疗在一定程度上仍
多酚物质作为啤酒非生物浑浊的主要因素之一,又是成品啤酒重要的风味物质,对啤酒质量起着重要的作用。本文考察了啤酒生产过程中多酚物质的变化及其影响因素,对麦芽及酒花多
有机硅表面活性剂具有优良的润湿性和渗透性,能极大地促进药液扩展,可使药液通过气孔进入植物组织内,因此在降低农作物的农药残留、降低流失到土壤和地下水中的农药量、进而