【摘 要】
:
随着信息获取技术的发展,现实数据呈现多维度高稀疏的发展趋势。传统的矩阵分解这种把高维数据转化成矩阵的处理方式已经无法满足大数据时代的要求。稀疏张量出现在许多具有多维和稀疏数据的大规模应用程序中,张量分解是矩阵分解在高维空间上的扩展。不同于矩阵分解,张量分解在提取数据内在的低维结构特征的同时,保留数据在高维空间的隐藏联系。矩阵化张量乘Khatri-Rao乘(MTTKRP)是张量分解中的基本运算,尤其
论文部分内容阅读
随着信息获取技术的发展,现实数据呈现多维度高稀疏的发展趋势。传统的矩阵分解这种把高维数据转化成矩阵的处理方式已经无法满足大数据时代的要求。稀疏张量出现在许多具有多维和稀疏数据的大规模应用程序中,张量分解是矩阵分解在高维空间上的扩展。不同于矩阵分解,张量分解在提取数据内在的低维结构特征的同时,保留数据在高维空间的隐藏联系。矩阵化张量乘Khatri-Rao乘(MTTKRP)是张量分解中的基本运算,尤其是在CANDECOMP/PARAFAC(CP)分解中。CP分解将一个张量分解为若干性质更简单的张量,常用交替最小二乘法(ALS)进行并行加速。在求解大型稀疏张量的ALS算法中,其主要计算量是MTTKRP,因此高效计算MTTKRP是提升张量分解的核心重要环节。近年来GPU的快速发展,其独特的并行架构适合密集型和高度并行的计算。然而不规则的计算模式和稀疏结构以及稀疏张量操作的大内存占用使得稀疏张量计算具有很大的挑战性。本文从加速张量运算中的MTTKRP计算着手,以并行技术为基础,首先针对现实数据的高维稀疏特点,采取压缩格式进行存储提高内存利用率;然后针对不同压缩格式,设计CPU并行实现算法;最后结合GPU的并行方式和存储特点,设计GPU的MTTKRP并行算法,优化线程执行方式,提升算法的并行效率。本文的主要工作如下:针对张量的高维稀疏特性,分析了稀疏张量的不同存储格式。在CPU平台上设计不同稀疏格式的MTTKRP并行算法,减少对稀疏张量中的空切面和空纤维的计算。考虑到纤维和切面的索引与因子矩阵的关联,本文将计算过程分解为向量内积操作,即纤维与矩阵列计算,减少MTTKRP的迭代次数和冗余计算。实验证明,在CPU上针对电影标签数据集最高可以实现3.67的加速比。基于分层的张量存储格式设计GPU的并行算法。首先将稀疏张量按照切面进行分组,提出切面级并行的MTTKRP。其次,提出合并存储的MTTKRP,实现合并访存和数据复用,实现纤维之间的并行。之后使用共享内存存储切面的中间结果,降低访存延迟。最后设计线程束执行方式以提高算法并行度,采用交错归约按行得到结果矩阵。对于本文提出的张量运算中的MTTKRP优化算法,使用公开电影标签数据集测试。实验证明,在GPU上平均实现1.59倍加速,最高可达3.58倍的加速。
其他文献
课程思政为高等教育带来一场革命,更为构建中国化教育模式带来无限可能。工科高等数学教学与课程思政深度融合,能发挥数学教学价值,提升数学教育育人功能,更能推动思政教育发展。从高等数学教学与课程思政协同发展的必要性入手,确定工科高等数学教学与课程思政融合目标,拓展融合实践策略,完善课程思政建设架构,能实现工科高等数学教学的新生,助推我国教学水平提升。
房屋征收安置与群众切身利益息息相关,一直是社会关注的焦点。近年来,在保护大同历史文化名城的建设中,古城内棚户区改造及环境综合整治所涉及房屋的征收安置使城市面貌和群众居住环境得到显著改善的同时,深层次问题也日渐凸显,不断引发各类矛盾、纠纷。平城区纪委监委坚决贯彻落实中央纪委和省市纪委全会关于整治民生领域微腐败的有关决策部署,坚持以人民为中心的发展理念,聚焦房屋征收安置领域,扛稳监督职责,靶向精准施策
“十三五”时期,安徽省芜湖市深入贯彻习近平总书记关于生态文明发展的思想,大力推进畜牧业转型升级,取得了一系列可喜成就,畜牧生产形势持续向好,养殖布局进一步优化,圆满完成了畜禽养殖废弃物资源化利用3年行动计划任务目标,加快种质资源保护开发利用,动物防疫体系不断完善,有力保障了畜产品安全持续供给。“十四五”是全面推进乡村振兴的关键时期,如何谋划畜牧业发展对于提升畜禽产品供应安全保障能力、繁荣农村经济、
用思政的视角看待“高等数学”教学改革,从树立教师思政意识、明确课程思政教学目标、深挖教学过程中的思政元素和考核评价体系的配套等对如何落实课程思政教学改革进行了探索和思考,让思政教育的理念贯穿于教学的全过程,构建符合社会主义核心价值的课程教学体系,从而实现高等数学课程的育人功能。
新课程、新教材和新高考形势下的学科核心素养的培育,需要学生通过对学科的学习,培育正确的价值观念、必备品格和关键能力;提高政治认同、科学精神、法治意识和公共参与能力。法治意识教育已贯穿我国国民教育体系之中,这对提高公民法律素养、推进法治社会的进步有重要意义。推进法治意识教育在中学阶段主要由思想政治课承担,法治意识是学科核心素养之一,但在实际教学过程中对高中生法治意识的培育还停留在知识层面,焦虑法律条
光刻胶是集成电路的基础工艺研究材料,随着近些年来大规模的集成电路的发展,光刻胶的研究开发和应用变得热门。光刻胶的重要组分之一是主体树脂。传统主体树脂的制备大多采用自由基溶液聚合,造成有机溶剂的大量使用,产生环境污染、资源浪费等问题。本文将制备的聚丙烯酸酯作为分散剂,通过悬浮聚合制备了光刻胶主体树脂,并对光刻胶的性能进行了研究。具体研究内容如下:(1)以甲氧基聚乙二醇丙烯酸酯(PMEA)和丙烯酸(A
在全球气候变暖背景下,城市作为人类社会活动的中心,既是能源消耗和碳排放的主要源头,也是气候变化带来的不利影响的主要承载体,城市低碳发展已经成为各国公认的实现低碳减排目标的重要途径。城市碳减排策略一定程度上会对低碳城市的建设带来影响,与全球或国家层面的碳减排政策指引相比,城市减缓气候变化的地方行动具有在政治上更容易实施,并且可以在短期内见成效的优势。基于中国的基本国情,通过减排策略控制城市碳排放尤为
2021年以来,海内外学术界聚焦元宇宙,形成了一股元宇宙研究的热潮。元宇宙正从概念建构、理论探讨,同步进入实践探索、行业运用的快速发展阶段。本文首先对媒介视域下元宇宙的前沿研究成果进行了系统梳理;其次分析了元宇宙发展对新闻与传播学未来研究的要求;最后,对新闻与传播学界未来的元宇宙研究,从值得重点研究的议题领域提出了展望和建议。
重型履带车辆由于吨功率较大,制动时所需要的制动力较大,多采用干片式多盘制动器作为制动装置。在干片式制动器中采用弹子加压机构作为制动力转换装置,其主要由转动盘、弹子以及移动盘组成。随着履带车辆机动性能的提高,在高原和山地等地形中,受限于地形坡度影响,制动器工作频次增加,制动器在恶劣环境中的可靠性,尤其是加压机构运转的灵活性和稳定性对保障履带车辆行驶的高机动性和安全性显得尤为重要。由于弹子加压机构在工
座椅作为汽车内重要的约束系统组成部件,其安全性设计趋于成熟,但近年来人们对汽车的要求不仅局限于汽车的性能和安全,而且开始关注汽车座椅的舒适性。汽车座椅舒适性不仅影响到汽车本身的产品竞争力,与驾乘人员的行车安全和身体健康也密切相关,因此汽车座椅舒适性研究具有深远的意义。以往需要通过制作样椅才能评价测试座椅舒适性,再对产品迭代改进,这不但需要耗费大量的时间和成本,而且难以在座椅设计之初做出准确评估和指