Spark并行计算框架的内存优化

来源 :计算机工程与科学 | 被引量 : 0次 | 上传用户:jayden1986
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
以Spark为代表的集群并行计算框架在大数据、云计算浪潮中广泛应用,其运行性能优化是应用的关键。为提高运行性能,分析了Spark框架执行流程、内存管理机制,结合Spark和JVM两个层面内存管理的特点,提出3条优化策略:(1)通过序列化和压缩方式减少缓存数据大小,使得GC消耗降低,提升性能;(2)在一定范围内减少运行内存大小,用重算代替缓存,可以提升性能;(3)配置适当的JVM新生代和老生代的比例、Spark计算与缓存空间比例等内存分配参数,能够较大程度地提升性能。实验结果表明,序列化和压缩能够减少缓存占
其他文献
摘 要:孔子曰:“亲其师才能信其道。”老师只有与学生建立起深厚的感情,学生才能领悟你的爱,学生在心理上才会得到满足,才会向你倾诉内心世界,才会听从你的教诲,接受你的教育,才能把教育内容转化为自己的需要,并为满足需要而去努力。在我十多年的教育教学体验中,特别是在班主任工作实践中,我越来越深刻地认识到情感教育的重要性,我认为 “情”可以从四个方面着手。  关键词:情感教育;探究  一、用“豪情”激发孩
各地级以上市人民政府,各县(市、区)人民政府,省政府各部门、各直属机构:省金融办、广东保监局《关于加快发展责任保险促进我省公共安全体系建设的实施意见》已经省人民政府同意。
No.82008年科比·布莱恩特洛杉矶湖人队这个赛季的科比可以分为两个阶段,赛季开始前,他~直在抱怨身边缺乏得力的帮手并要求球队进行一些有价值的交易(自从2004年夏天奥尼尔离
公益广告是一种特殊的艺术形式。它肩负着明确社会公益文化信息宣传的责任,它的表达直接影响着社会公众的价值观念和行为动向。生态环境问题任重而道远,如何更好地挖掘和发挥
摘 要:如何有针对性地进行作文教学是中学语文老师需要解决的一个重要课题。多年来,娄底三中初中语文组在组长肖卫东的带领下进行过多种途径、多种方式的作文教学训练模式尝试,然而,在教师的作文教学技能方面,始终存在一些难以解决的痼疾。为了有针对性地加强作文教学,找到作文教学的一条有效路径,提高作文教学的效率,我们课题组专门设计了基于三中30名初中语文教师作文教学情况的一套调查问卷,开展了这次作文教学调查问
多年的教学实践使我们深刻体会到,良好的学习习惯,是学习知识、培养能力、发展智力的重要条件。学习习惯不仅直接影响学生当前的学习,而且对今后的学习乃至工作都会产生重大影响
曾听朋友说过中国画多用“留白”,也就是匠心独到地在画面上留以空白。画家的神来之笔、画幅中最能引人冥思遐想玩赏不止的地方,往往是由于“留白”。正如哲理所云:“道以无为大
在通讯设备爆炸式增长的时代,移动边缘计算作为5G通讯技术的核心技术之一,对其进行合理的资源分配显得尤为重要。移动边缘计算的思想是把云计算中心下沉到基站部署(边缘云),
艺术公修课作为高等教育中美育的重要载体,在高校美育中具有不可替代的作用,是"课程思政"很好的实践科目。美感教育作为世界观教育的重要途径,在德智体美劳这五育中,承担着桥