近年来互联网获得了前所未有的发展,全球网络流量的快速增长,对高容量网络业务的需求越来越大。通信网络的传输能力和性能需要不断提升以满足人们日益增长的业务需求。光网络作为各种信息业务的载体得到了越来越多的关注。突增的业务量和用户数量以及新兴的业务模式不断出现使得光网络承担的风险和应对的挑战也与日剧增。如何能根据实时的网络状态针对不同的业务进行高效的业务编排是一个亟需解决的问题。网络流量的爆炸式增长导致网络状态呈现出越来越多的特点。例如,在全光网络中资源分配只需要考虑路由和带宽,而在光传送网络中还需要考虑是否要进行电交叉等交换方式。传统的资源分配启发式算法受限于不同特征之间复杂的非线性关系和优化目标,有时不能发现和利用这些特征的正确组合。光网络中的资源分配本质上是一个连续动作空间中的离散控制过程,因此可以考虑使用增强学习(RL)来解决这一问题。增强学习属于机器学习技术的一个分支,近年来,机器学习技术已经被普遍的运用在各行各业中,帮助解决了许多方法不能很好解决的问题。论文针对此课题,结合当前光网络中资源分配算法的研究现状,提出图像化的多模态光网络结构,并在此基础上,提出基于多模态的光网格资源分配算法和基于多模态的光网络端口资源节省的业务编算法,具体的研究工作如下:第一,论文针对光网络数据不能高效的适配机器学习算法提出了多模态光网络。多模态光网络即根据网络的拓扑形状、带宽资源以及拓扑的路由表来进行图像化后的网络表达方法。本论文根据光网络的不同场景提出了波分复用多模态光网络以及光传送电交叉多模态光网络。第二,为了实现光网络的高效的资源分配,论文对增强学习算法展开研究,利用构建的多模态光网络提出了基于多模态增强学习的光层资源分配方法来解决波分复用光网络的路由选择和波长分配的问题。结果证明本论文将新提出的算法的编排结果可以达到传统启发式算法编排结果。第三,论文针对光传输网络(OTN)电交叉的端口配置问题提出了适配OTN的端口资源节省的业务编排方法。通过构造新的多模态光网络来进行资源分配并且在编排过程中尽可能的减少OTN中光电转换使用的端口的数量。与不作任何优化的算法相比,端口数量节省了 30%。