论文部分内容阅读
随着硬件计算能力特别是大规模分布式并行计算的飞速发展,机器学习领域得到了长足的发展。在训练数据足够充分的前提下,机器学习算法的超参数配置问题是其取得较好效果的关键。超参数是在某个机器学习算法运行之前,首先需要选取的参数,例如深度学习算法中的,控制神经网络学习速度的学习率。超参数搜索的目的是为某个应用的算法选择一组好的超参数,使此算法性能达到最佳。在以往机器学习超参数选择问题中,领域内研究者一般都是基于个人经验对超参数进行人工选择。随着数据规模指数级上升,虽然大规模计算加速设备的飞速进展使得深度学习特别是深度强化学习算法在处理海量的图片等数据方面显示出强大的优势,但是在超参数选择问题上仍然是一个未解决的难题。近年来随着深度学习模型的不断增大,其训练成本即超参数的搜索空间也在不断变大,然而传统超参数搜索算法大部分是基于顺序执行训练,往往需要等待数周甚至数月才有可能找到较优的超参数配置。为解决深度学习超参数搜索时间长和难以找到较优超参数配置问题,本文提出一种新的超参数搜索算法——基于种群演化的超参数异步并行搜索(PEHS)。算法结合演化算法思想,利用固定资源预算异步并行搜索种群模型及其超参数,从而提高算法性能。本文设计实现了在Ray并行分布式框架上运行的参数搜索算法,通过实验表明在并行框架上基于种群演化的超参数异步并行搜索的效果优于传统超参数搜索算法,且性能稳定。机械臂是机器人领域应用最广泛的机械装置,其行为获取的研究是机器人运动技能研究的一个重要方面。示教学习是一种快速高效的学习方式,通过对示教行为的学习,使机械臂快速获取运动技能,从而简化复杂的运动规划,提高学习效率。围绕机械臂通过示教学习获取运动行为展开研究,本文设计一个卷积神经网络模型(CNN),通过监督学习的方式结合基于种群演化的超参数异步并行搜索算法(PEHS)进行基于模仿学习的库卡机械臂抓取研究。该方法可以利用有限的硬件资源,快速评估网络体系结构,同时确保并行训练的各个网络在优化过程中选择适应当前模型的良好的超参数,使模型的准确性和鲁棒性更强。通过实验表明结合PEHS算法后比监督学习(数据聚合)方法的实验精度有效提高6%左右,且算法的稳定性较强。