ETL系统在保险行业ODS中的设计和实现

来源 :上海交通大学 | 被引量 : 0次 | 上传用户:DSFDSAF
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
建立操作性数据存储是解决在保险业中大量业务数据处理、汇总和分析的一个重要技术,而ETL过程对操作性数据存储的建设有着极其重要的意义。论文通过对ETL相关研究和技术的分析,结合某保险公司的一个实际ETL系统项目,对ETL的设计和实现进行了深入的研究。设计建模方面。基于公共数据仓库元模型标准并结合项目实际情况提出了ETL系统的设计模型框架,然后通过分析处理调度单元之间的逻辑关系建立了作业调度管理元模型,在具体实现设计过程中利用ETL工具和脚本技术实现了对整个ETL系统中各险种数据处理的复杂调度。数据抽取方面。针对分布式异构多数据源的环境,论文给出了抽取-传输-缓冲-合并的抽取方法来有效地解决数据的抽取问题。ETL系统的效能方面。利用流水和分区化的思想来对单个处理调度单元提高并行度,同时利用业务规则对多个处理调度单元并行地处理来提高整体处理效能。重复记录一致化方面。给出了排序-等值匹配算法,证明了存在匹配键的情况下该方法可以有效地检测重复记录,以往的研究对检测出重复记录后的冲突处理上未见有相关的讨论,论文提出了基于业务规则的冲突处理算法。错误数据检测方面。基于领域知识提出了建立错误检测规则的方法,从理论和实验论证了该方法的有效性。数据质量方面。通过一套量化体系来统一在数据质量维度和重要性权重,利用权重对数据质量指标值加权平均的方法来对整个系统的数据质量进行综合评估。以往的研究都是将数据质量独立于ETL系统来讨论的,论文将数据质量模型框架其融入ETL系统设计模型中,从而扩充了ETL设计模型的功能和复用性。该ETL系统已成功上线。本文的意义在于,不仅提出的多项研究已成功地应用到了ETL系统建设中,而且对其他环境下的ETL系统设计和实现也有着积极的参考意义。
其他文献
采用静电纺丝技术分别制备了不同种类和含量的环糊精/聚苯乙烯(CDs/PS)超细复合纤维膜并研究了其吸附性能.利用扫描电镜(SEM)、红外光谱(FTIR)、X 射线衍射(XRD)等测试手段对纤维的形
长期以来,人们总是将银行业的诸多弊端归结于其垄断性,银行是否垄断事实上是一个实证问题。文章基于银行2006年至2012年的微观面板数据,采用双向固定效应方法,利用PR模型进行
政府购买服务作为政府提供公共服务的一种新方式,近年来已被日益广泛运用于社会管理和实践操作中,残疾人在被政府提供公共服务的时候,因为在生理和心理上与正常人相比有其特殊特征,因此对公共服务需求存在差异性。作为残疾人公共服务的主体,政府如何更好地设计的服务内容和健全制度建设,激发市场活力,促进更多社会力量参与,建立专业的人才队伍,满足残疾人群体的需求导向,提高整个行业的公共服务发展水平。是本研究讨论的主
当前无人机技术发展已经由军用领域逐渐渗透到国民经济生活的各个领域,无人机在警用领域也得到了长足发展,国内已有将无人机进行组网用于侦察、救援,但是警用无人机基于多无
对国内番茄种植和嫁接育苗现状进行总结,简单分析嫁接育苗研究现状,并找出番茄嫁接生产中存在的问题,探讨嫁接育苗的发展趋势。
ETL系统是构建和维护数据仓库的基本构件,由于要处理海量数据和访问各种异构数据源,如何同时具有高效的数据处理能力和通用的数据源访问能力是值得研究的问题。本文针对某银
文中介绍了一种基于PLC的数控铣床控制系统,该系统利用PLC丰富的脉冲控制指令实现对数控铣床各轴的步进电机的速度和位置控制,数控加工指令由PC机经串口通信传送给PLC,控制PL
随着地铁建设规模的不断扩大,施工安全风险也随之增加。针对施工风险的不可预测性、突发性和复杂性,传统的风险管理无法基于系统的全过程进行动态管理,强调事前管理。韧性科学的出现在生态学、灾害学等方面对风险和灾害有了基于系统属性和全过程的研究和探索,使得系统韧性成为安全学科应对突发和不利事件的研究热点。韧性科学在风险管理的基础上,更强调系统应对风险事件的事前、事中、事后全过程表现,是风险管理的目标和组成部
目的探讨华西法单侧唇裂修复术式的临床效果。方法应用华西法单侧唇裂修复术式的设计和方法,对49例单侧唇裂患儿行唇裂修复术并同时行前鼻孔成形术。术后7d进行效果评价。结
目的综合分析我国附红细胞体流行状况。方法采用Meta分析对中国2001-2012年发表的有关附红细胞体流行病学文献进行汇总、归纳和统计分析。结果共检索64篇文献,入选44篇。附红