【摘 要】
：
BP神经网络（BPNN）被广泛称为现阶段最受欢迎的神经网络之一,它是一种监督式学习的网络[1]。BPNN通过学习训练样本输入和输出的关系进行建模,它对网络权重进行连续调整,以达到减小预测值和真实值差异的作用。它只需要较少的计算和训练,就能隐式检测因变量和自变量间的关联[2],从而计算变量间的复杂关系,对不可见数据进行良好的泛化和预测。但随着大规模数据集在各行业的出现,BPNN逐渐暴露出缺陷与不足,
论文部分内容阅读
BP神经网络（BPNN）被广泛称为现阶段最受欢迎的神经网络之一,它是一种监督式学习的网络[1]。BPNN通过学习训练样本输入和输出的关系进行建模,它对网络权重进行连续调整,以达到减小预测值和真实值差异的作用。它只需要较少的计算和训练,就能隐式检测因变量和自变量间的关联[2],从而计算变量间的复杂关系,对不可见数据进行良好的泛化和预测。但随着大规模数据集在各行业的出现,BPNN逐渐暴露出缺陷与不足,特别是在处理大数据集时出现训练时间过长、计算负担大、模型准确率低以及难以快速收敛等问题。为将BPNN应用于大规模数据集,优化模型在大数据下的性能和表现,充分发挥其最大优势,本文提出一种基于Bagging算法的BPNN并行化训练方法。该算法分别在两大分布式计算平台Hadoop和Spark进行实现,实验结果表明,与传统BPNN及其它并行策略相比,基于Spark计算平台的Bagging-BP算法在保证准确率的前提下,具有良好的并行加速性能、计算速度和数据可扩展性,在大数据场景下表现出明显的优势。本文具体工作如下:（1）提出基于小批量梯度下降和PSO算法改进的BP基学习器模型（MP-BP）,以优化Bagging-BP并行训练算法的基分类器模块。针对BPNN的自身缺陷以及难以适应大规模数据集的问题,利用PSO算法在全空间内搜索权阵,采用改进的MGBD算法训练基分类器。最后通过实验表明:MP-BP基学习器的收敛性能更优,准确率更高。（2）提出基于加权投票的Bagging-BP并行算法（WVA Bagging-BP）。以集成学习的思想,结合MapReduce编程模型实现算法并行化,通过设计基分类器的加权投票策略,将多个分类器组合成性能更优的强分类器。给大数据集分片并将每个数据子集分别输入Map,使用MP-BP算法并行训练多个基分类器,在Reduce阶段判断迭代终止条件,最后通过结合策略组合成强分类器,作为分类模型的最终输出。（3）实现基于Hadoop和Spark平台的Bagging-BP分布式训练方法,并通过系列实验和多项评价指标进行对比分析。在数据集BD3～BD5上的实验表明,WVA Bagging-BP算法的分类准确率优于传统BPNN模型和MVA模型,预测准确性在上述三个数据集上均有提升。在两个平台的实验表明,与Hadoop相比,基于Spark实现的Bagging-BP算法具有更好的加速能力和并行效率。在大规模数据集下的实验表明,本文算法能提升训练速度,并表现出良好的可扩展性。
其他文献
随着无人机技术的不断进步,多无人机协同对地任务规划在现代战争中的地位日益凸显,其规划结果优劣将直接影响无人机整体作战效能。多无人机协同对地任务规划包含两阶段:第一阶段任务分配,即给无人机合理的指派任务;第二阶段航迹规划,即给无人机规划出能安全抵达对地任务目标点的可飞航迹。本文结合某无人机仿真平台的研究,对相关问题展开研究,主要工作内容如下:（1）针对传统合同网算法在解决多无人机任务分配中存在的资源
目标追踪作为现实意义较大的一个视觉算法研究板块,其中长时间的单目标追踪算法则是该板块一个十分重要方向,此前相关算法的解决方式主要以传统滤波为主,近年来,以深度学习为基础的长时间单目标追踪算法性能,正渐渐赶超传统滤波方法,尽管如此,目标追踪任务的难点始终没有得到很好的解决,其中以相似目标的追踪漂移、目标闪入和闪出视野内、目标运动模糊、目标视角和尺度随着追踪时间的不断变化等难点最为突出,进一步地,长时
近年来,基于探针的全局光照算法因其简单高效的特点被广泛应用于实时渲染应用中,如虚拟现实、游戏以及CAD辅助设计等。其基本思想是,通过在场景中离散放置探针对光照信息进行预计算,然后在运行时查询着色点附近若干个探针存储的光照信息进行插值计算而生成全局光照效果。然而,该类算法依赖于逐探针预计算光照信息,导致其难以实时响应动态光照变化。其中,光场探针算法能够生成高质量的间接漫反射和光泽反射效果,但需要逐探
随着科技的不断进步,人们的生活也开始步入智能时代。在交通出行方面,与我们最密切相关的就是辅助驾驶和自动驾驶技术。这些技术不仅能够提高我们的出行效率,也能够保障我们的出行安全。因此,对智能交通技术进行研究有着十分重要的意义和应用价值。在道路交通系统中,交通标志是重要的组成部分。不论是辅助驾驶还是自动驾驶,都必须要解决好交通标志检测的问题。但是在实际应用过程中,由于交通标志主要存在于室外,环境较为复杂
随着空中作战在现代战争中占据越来越重要的地位,空战决策方法的研究所具备的现实意义也显得尤为突出。由于空中作战态势复杂多变,如何快速感知战场环境并生成一种有利且准确有效的空战策略成为了空战博弈的重要研究方向。在空战决策方法的研究进程中,有诸如专家系统、影响图、矩阵博弈和微分对策等方法的研究进展,但此类传统方法存在适应性较差、计算复杂、难以满足实时性等问题。随着近年来深度强化学习技术的兴起与发展,其在
近年来,恶意代码分析一直都是中国网络安全领域研究的重要课题之一。其中高级可持续威胁攻击（Advanced Persistent Threat,APT）是一种特定的恶意代码入侵方式,它通过扫描探测系统漏洞,对靶机投放恶意漏洞利用脚本,再植入二进制恶意程序,达到感染主机的目的。研究恶意代码功能分类模型能进一步分析出恶意代码的功能行为信息,从而有效地提升APT防御技术,保护网络安全。但近年来分类恶意代码
随着美国成功勘探及开发出页岩气,世界各国都兴起了一股研究页岩气的热潮。我国地质资源丰富,但地形条件复杂,不同地域的构造演化、沉积环境以及热演化过程都不相同,使得页岩气的形成过程和富集程度存在较大差异,所以勘探技术仍是页岩气开发过程中的关键因素。通过使用图像分割技术对深层页岩SEM图像进行分割处理,进而为勘探人员提供辅佐信息,有助于提高勘探效率。为了提升分割精度,本文对深层页岩SEM图像分割进行了深
近年来,随着计算机性能的提升和深度学习的迅速发展,计算机视觉领域迎来了蓬勃发展。头部姿态估计作为基于生物特征的计算机视觉领域的一个分支,是众多学者的一个研究方向。头部姿态估计是指从二维人像图中推断出人在三维空间中的头部朝向的过程。这个课题在很多领域都具有广泛的应用场景,例如驾驶员监测系统、虚拟现实、安防监控系统、学生课堂注意力估计等等。目前,头部姿态估计仍然面临着诸多挑战,例如精度较低、模型泛化能
白内障是致使视力受到损害的主要原因,也是导致失明的严重眼科疾病之一,且白内障疾病发病率较高。但在偏远地区,基层医疗机构的专业眼科人才极度缺乏,无法诊断各类眼科疾病。运用人工智能的方式辅助医生检测白内障,搭建远程白内障超声影像诊断系统,能够有效缓解因诊断不及时,就医困难等原因引发的严重后果。近年来,基于深度学习（Deep Learning,DL）方法的自动化系统显著提高了白内障的检测。然而,白内障自
近年来,随着互联网和移动终端的迅速发展,各大互联网公司为抢占有限的用户资源,推销自己产品和服务,纷纷采用各种推荐算法进行信息或物品推荐。序列推荐算法作为推荐算法领域的子领域,在电商购物平台应用尤其广泛。序列推荐算法的主要任务是通过用户与平台的交互序列,得到当前序列偏好,进而预测用户下一次可能交互的物品,提供给用户合适的推荐列表。当前,研究人员开始将门控图神经网络应用于序列推荐当中,但是现有研究工作