【摘 要】
:
随着人工智能等新兴技术的快速发展,大量企业和高校在深度学习上加大投入,越来越多的非专业用户也有了应用深度学习方法的意愿,为这些非专业的用户降低应用深度学习技术的门槛成为了迫切的需求。本着为非专业用户提供应用深度学习技术的便利目标,本文基于Kubernetes搭建了深度学习任务管理平台,主要从集群计算资源的管理调度、集群的系统监控、深度学习的模型设计这三个方面来简化用户的操作。(1)在资源管理调度方
论文部分内容阅读
随着人工智能等新兴技术的快速发展,大量企业和高校在深度学习上加大投入,越来越多的非专业用户也有了应用深度学习方法的意愿,为这些非专业的用户降低应用深度学习技术的门槛成为了迫切的需求。本着为非专业用户提供应用深度学习技术的便利目标,本文基于Kubernetes搭建了深度学习任务管理平台,主要从集群计算资源的管理调度、集群的系统监控、深度学习的模型设计这三个方面来简化用户的操作。(1)在资源管理调度方面,本文扩展了Kubernetes默认的调度算法,实现了结合集群中用户优先级与其使用计算资源的历史状况来动态的调整用户任务的优先级的方案。合理的为集群中用户的任务分配计算资源,解决用户任务可能因为优先级低而无法获得调度的问题,保证集群中用户的公平性。实验证明,用户任务的优先级能够按照设计随着用户所使用计算资源的历史时长动态改变。(2)在集群监控方面,本文使用Exporter,Prometheus,Grafana三者结合完成集群监控系统的实现。收集集群中的资源消耗情况,将相关资源(CPU、内存、网络等)的信息以可视化的形式展现出来,通过集群监控,及时发现集群中的问题以及资源的瓶颈所在。(3)在模型设计方面,本文搭建了一个适用于深度学习的任务管理平台,通过Web界面来搭建深度学习模型。该平台前端需要设计页面功能的划分、实现相应模块的拖动和连接、对任务训练进度的实时展示、对数据结果的可视化等等。而其后端需要配合前端传递的数据实现相应的功能,设计数据库结构、图模型的表示、图模型的检验、图模型到框架的翻译等等。通过前后端功能的交互,平台实现了深度学习任务的创建、训练、模型测试、结果可视化等功能,简化了非专业用户搭建深度学习模型的方式。最终将应用程序封装在Docker中,并且以Pod的形式部署在Kubernetes的集群,通过Kubernetes进行管理和调度。为了确认设计功能被正确实现,我们对计算集群进行了部署测试,首先搭建了Kubernetes集群,并且对本文改进的调度策略进行验证分析,从结果表明改进后的调度策略提高了可用性,能够通过使用计算资源的历史时长来动态调整用户任务的优先级。通过对集群的监控,可以直观的了解集群中的资源使用情况。最终,将搭建的深度学习任务管理平台部署在集群中,通过Kubernetes进行调度和管理,用户通过该平台可以迅速搭建深度学习模型,为非专业人士应用深度学习提供了便利,提高生产效率。
其他文献
生物质作为能源具有来源广泛、绿色可再生的特点,是化石能源的理想替代品。当前,生物质直燃技术在可再生能源利用领域已经逐渐成熟并初具规模。但是生物质燃料中通常钾、钠、钙等碱金属、碱土金属元素和氯元素的含量较高,这些元素尤其是钾元素含量过高,会导致燃烧时生物质锅炉出现如高温过热器表面积灰、炉内结渣、设备腐蚀等一系列问题,严重影响了生物质锅炉运行的安全性和经济性。本文针对这些问题,从生物质沉积灰特性层面研
随着经济全球化的发展和科学技术的创新,农机产品生命周期越来越短,市场不确定性不断增强,如何在市场中取得竞争优势,成为我国农机制造企业生存和发展面临的重要问题。供应商
氟是人体必须的微量元素之一,适量的氟可以预防龋齿及促进结实骨骼的形成,而长时间摄入过量的氟则可能导致氟中毒。目前,不同剂量的氟对肠道菌群的影响仍不清楚。本实验采用体外发酵研究了不同浓度的氟(1、2、10、15 mg/L)对肠道菌群的影响,利用建立的大鼠氟斑牙模型,探究氟中毒情况下,口腔和肠道微生物的变化。主要研究内容如下:1.采用体外发酵探究了不同浓度的氟(1、2、10、15 mg/L)对肠道菌群
探地雷达(Ground Penetrating Radar,GPR)是一种利用高频电磁波对地下物质进行信息获取的无损地球物理测量设备。探地雷达因具有速度快、精度高、无损性等优点被广泛应用于工程检测、文物考古、灾害救援等领域。随着雷达技术的发展,人们对探地雷达的探测要求也越来越高,探地雷达的应用场景也越来越丰富,因此对脉冲可控的探地系统的研究具有重要的应用价值和意义。本文主要的工作内容如下:1.通过
目的:评估软腭癌患者术后的吞咽、咀嚼、语音和张口功能,并探讨影响其功能的相关因素。评估术后康复训练对软腭癌患者口腔功能恢复的影响。方法:收集2018年3月至2018年10月于湖南省某三级甲等医院就诊的软腭癌患者50例。将50例患者随机分为干预组和对照组,每组各25人。干预组术后进行康复训练(吞咽功能、咀嚼功能、语音功能和张口功能训练),对照组进行常规护理。采用自制的基本资料记录表,收集术后10日影
儿童是天生的科学家和艺术家,无穷的好奇心和想象力是他们的资本,在游戏中学习是他们的权力。儿童互动式书籍的意义便是让儿童能在一种游戏式的情境中激发学习潜能,开发早期
本文以上海古籍出版社2012年4月出版的村上哲见的《宋词研究》一书为研究对象,通过对照、比较的方式,将研究对象与国内已有的研究成果进行对比,并穿插了 日本汉学界其他学者
从古至今,关于幸福的问题一直被人类关心和重视。幸福是什么?如何才能获得幸福?评判幸福的标准又是什么?每一个个体对于幸福的理解都有所不同,收获幸福的方式也多种多样,不同
乡村,作为文明的发源地,是社会中必不可少的组成部分。然而随着社会经济的发展,现代乡村呈现出“老龄化”、“少子化”、“空巢化”特征,很多家庭出现代际的缺失,导致家庭关系网的破裂,“留守儿童”与“空巢老人”成为乡村中两大特有群体,同时展现出自身特有的需求。北方的乡村地区因气候严寒,农闲时间较长,村民在此期间基本赋闲在家,鲜少存在与外界的交流互动,同时自然人口层次的缺失导致儿童与老人的生活存在一定的困难
随着智能制造的发展,仓库作为物流中的重要节点发挥了至关重要的作用,仓库管理系统为了实现更加高效的仓库管理、降低管理成本提出了可行的解决方案。仓库管理的智能化在提升仓库的利用率和管理水平上作用巨大,传统的人工仓库管理需要工人对货物进行搬运和上架下架操作,人工记录出入库数据。缺点非常明显,主要包括人力需求量大、出入库效率低、仓库空间利用不充分、人为操作的不准确性等问题。为解决上述的这些问题,本系统将结