面向高频证券大数据的流式处理框架及关键技术研究

来源 :西北大学 | 被引量 : 0次 | 上传用户:qiuenqiuen
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
信息化技术在各行各业的普及,促使大规模数据产生于不同领域,给大数据处理带来了全新的技术挑战。高频证券交易数据是典型的“流式大数据”,具有数据规模大、结构复杂、流动速度快等特点。如何利用有限的系统资源,构建稳定、可靠、高效的数据处理框架,在高频推送的流式数据周期内及时完成数据响应,是证券数据价值挖掘场景亟待解决的问题。本文在分析研究大数据流式处理模型的基础上,结合多种大数据处理技术构建了一个面向高频证券大数据流式处理框架,对其中涉及关键技术进行研究和改进,并应用于证券数据实时分析场景,实现了高效的数据流处理、管理与查询。全文以构建契合高频证券大数据特征的流式数据处理框架为主线,并深入研究该框架中涉及的关键技术,论文主要完成工作如下:(1)分析设计面向高频证券大数据的流式处理框架。以Storm流式处理框架和Redis内存数据库为技术原型,将二者进行结合并经过改进,设计了面向高频证券大数据的流式处理框架以及流式数据分层处理模型。(2)针对该框架中Storm组件的缺陷和不足,分别从物理、逻辑和应用层面对Storm进行优化改进,以增强其面对高频流式大数据的实时处理能力。(3)设计实现符合证券大数据高效存取的基于Redis的共享内存中心。通过对Redis内存数据库的改进,既保留数据存储的灵活性需求和可扩展性优势,又考虑数据I/O的高效性,弥补了流式处理框架中Storm组件不能保存状态数据的缺陷,为上层应用的深度挖掘提供高效I/O保障。(4)本文设计的框架在高频证券实时分析场景中的应用。完成了面向高频证券大数据的流式处理框架的应用,为后续证券交易策略开发和实现提供框架支撑。
其他文献
<正> 我科1964年1月~1987年6月收治急性白血病初治病例129例,有骨关节疼痛者30例,占病人总数23%,部份病人曾以风湿性关节炎、骨髓炎等诊断在外辗转就诊,延误了白血病的确诊与治
通过对网络环境下计算机病毒的特点及传播途径等进行分析,剖析了目前国内杀毒软件存在的缺陷,从而提出了网络环境下防止计算机病毒破坏的一种新的理念.
一、门巴族的历史$$门巴族自称门巴,门巴原是藏族对居住在门隅居民的传统称呼,意为门隅地方的人。门巴族是我国西藏自治区东南部具有悠久历史文化的民族之一,据藏文史籍记载,门巴
报纸
目的评估本院雾化吸入的给药情况,为临床合理用药提供参考。方法通过用药工作站调取本院神经外科、胸心外科、耳鼻喉科、肺病科、普外科5个科室2017年11月雾化的患者信息,共
目的探讨综合护理对断指再植成活率和功能恢复的影响。方法68例行断指再植术的患者随机均分为两组,每组断指各40指。对照组采用常规护理,观察组在对照组基础上采用综合护理,
<正>按照惯例,意大利制鞋制革制皮具机械协会(ASSOMAC)于6月的最后一个周五,在总部维杰瓦诺(Vigevano)举行了全体大会。朱里奥·覃杜拉,在他作为协会会长的第二个年度即将结
<正>这次,我们的话题从"她经济时代"的品牌来谈。回顾在品牌行业摸爬滚打这么多年,发现在品牌战略层面完全针对女性的品牌,除了时尚品牌和一些女性产品以外,确实寥寥。细思原
以低聚糖、或魔芋、或明列子、或枸杞子等为原料,根据不同原料采用相应的处理工艺生产保健型米酒,其关键质量控制点有:(1)选用孝感传统优质米酒曲;(2)浸泡水温25~30℃,时间6~8h
洗煤厂机电设备的正常运行是洗煤操作得以顺利完成的重要保证和前提条件,分析洗煤厂设备管理与维护现状,探讨洗煤厂加强设备管理的维护措施。