【摘 要】
:
随着计算机和互联网技术的迅猛发展,加之物联网、移动互联网的快速兴起,人们的生活已经被数据所包围。在腾讯、阿里这样的互联网巨头公司中,手机QQ、淘宝商城这样的业务,其监控服
论文部分内容阅读
随着计算机和互联网技术的迅猛发展,加之物联网、移动互联网的快速兴起,人们的生活已经被数据所包围。在腾讯、阿里这样的互联网巨头公司中,手机QQ、淘宝商城这样的业务,其监控服务日志数据,每天都会达到50TB左右。如何对这些监控数据进行有效的过滤和实时分析,并完成对业务的实时监控,是一项巨大的挑战。现有的监控系统大多只提供硬件指标的检测,在业务层的监控系统也随着业务量的提高,面临着大数据的挑战。 本文针对上述问题,在大数据流式计算框架Storm和分布式消息队列Kafka的基础上,设计了一套用于大数据业务层的通用实时监控解决方案。用户只需要根据自身的服务,配置上报的字段属性和监控的规则,即可实现对服务的实时监控和告警检测。本文的主要工作及创新点如下: (1)针对现有系统监控配置繁琐,不能可视化的问题,提供统一的Web服务,使得监控的基本信息、输入字段、处理逻辑、拓扑预览等操作均可进行可视化的操作,将各模块进行可插拔的设计和实现,然后根据页面的配置信息自动生成监控逻辑的代码,大大降低了监控管理配置的复杂度,解决现有的监控系统,在告警配置上的繁琐、不透明的问题。 (2)针对现有监控系统误告率较高的问题,提出了一套监控指标告警检测方案,有效的降低了系统的误告率。方案对历史数据进行数字特征的计算,并根据假设检验和聚类得出的结果进行监控采样点的波动率分析,利用三次指数平滑法和BP神经网络法,对历史数据进行分析、建模和预测。结合离线计算和实时计算,对监控的采样数据进行告警检测,从而将系统的误告率从10%降低到1%左右。 (3)针对现有系统在大数据环境下传输效率低,处理延迟高的问题,将系统分为用户接口层、数据接入/缓存层、实时计算层、离线计算层、数据持久化层进行设计。在数据接入层和实时计算层中,将Storm和Kafka进行整合,并进行二次开发,充分利用Storm低延迟和高并发的特性,并利用ProtocolBuffer对消息进行序列化的编码压缩,从而提高系统的传输和处理效率,解决现有的监控系统无法满足在大数据环境下的实时性要求、多维度问题。 本文最后对所设计和实现的系统进行了功能测试和性能测试。对系统运行结果图和各种性能指标统计图的分析表明,系统完全满足预定的设计目标,并已应用于腾讯公司QQ产品族的部分业务的监控环境中。
其他文献
【摘要】《就业指导》作为大学必修课,越来越受到各方面重视。如何通过课程体系的合理构建对学生发挥实效,已经成为高校教育领域探讨的重要议题。对独立学院而言,任课教师的责任心,校方合理安排课程内容,因地制宜教学方法的应用将是解决该问题的主要途径。 【关键词】独立学院 就业指导 课程教学 【中图分类号】G64 【文献标识码】A 【文章编号】2095-3089(2015)06-0211-02 《就业指
【摘要】随着高等职业教育的发展和社会用人单位的需求,具备良好的综合职业能力对于高职学生的就业和可持续发展具有重要的意义。这要求高职院校不仅要注重培养学生的专业能力,还要注重非专业能力的培养。本文结合大连枫叶职业技术学院素质教育培养模式,结合用人单位的需求和90后大学生的身心发展规律与特点,通过“拓展训练”探索高职院校学生非专业能力培养的途径,建立科学、合理、可行的训练体系。 【关键词】拓展训练
课堂教学是学生学习文化科学知识的主阵地,也是对学生进行思想品德教育的主渠道.新的形势下,教学观念直接影响课堂教学效率,没有先进的教学理念,再好的教材,再完善的教学方法
阅读在小学语文学习阶段是比较重要的内容,阅读能力也是学生必须掌握的语文能力.在新课标的要求下,小学语文教师应该明确自己的教学目标,而且不仅要对学生实施基础知识的教学
在教育理念不断改革和转变的过程中,在课堂上的互动教学也受到更多人的重视,慢慢的也就衍生出小组合作学习这种互动教学模式,让学生在互动中学会知识.初中生物的课堂也有很多
学校为了提升学生的思政水平,让学生可以成为社会主义建设的有用人才,鼓励教师挖掘专业知识隐藏的思政信息.所以教师在讲授PLC课程的时候,可以挖掘出PLC控制技术与思政的密切
小学阶段是人生成长的起步阶段,也是培养学习兴趣、养成良好学习习惯和提升学习能力的奠基阶段,小学阶段的学习状况对长远的学习和发展都会产生深远的影响.小学语文阅读教学
【摘要】新课改和传统教学的交集是创设教学情境,无论新课改还是常规教学都不得不承认在课堂教学中,主体与客体的连接点是创设情境,尤其在思品课中更具有真实性、直观性和实效性。而王中刚运用图片、故事、视频画面、材料等从国际到国内,从现实到将来,充分地让学生体会明确是非,认知选择,理论提升,指导前行。可以说他自己的設计目标,在教学实践中 通过多媒体自然娴熟运用,使情境的创设得到较完美的验证。 【关键词】新
在信息技术快速发展的今天,无线传感器网络(WSN)作为现今最热门的新兴技术之一,受到越来越多的关注。随着应用技术的不断成熟和应用范围的推广,无线传感器网络正在悄然改变着