图数据在生物、化学信息学等领域有许多关键应用,如分子属性判断,新药发现等。图这种数据结构还可以用来表示关系型数据,比如社交网络、知识图谱等。图结构数据因为其强大的表示能力,受到越来越多研究人员的重视,使用图神经网络（Graph Neural Networks,GNN）从图数据中学习到的高质量的节点嵌入和图嵌入被广泛应用于图数据分析中,例如节点分类、连接预测以及图分类等问题。将CNN的卷积原理应用到图数据上形成的图卷积网络是GNN中的一类重要方法。图神经网络是通过建模节点之间的拓扑结构从而聚合节点特征信息来学习节点表示或图表示。然而,传统的GNN使用标量作为神经元的输出,这存在表示能力不足的问题,仅仅使用标量不能保存特征之间的空间关系,而且,GNN普遍在卷积层间添加池化操作,池化操作会丢弃很多节点信息,被丢弃的节点信息不能传递到下一层卷积层,从而导致学习到的是次优图表示。而且,重复平均会产生过多的噪声,并且使得不同类别节点的特征过度混合,从而导致过度平滑问题。本文梳理了深度学习、Transformer和胶囊网络的发展历史,进而引出近年来相关的图分类的模型。本文详细介绍了图神经网络、Transformer和胶囊网络的概念和原理机制,并针对相关模型的弊端作出改进。受Hinton提出的胶囊概念的启发,本文提出了一种新的图分类框架Caps Trans,它充分利用了图神经网络、Transformer和胶囊网络的优点。具体来说,本文首先利用加入了残差连接的GCN为每个节点生成多个胶囊,从多个角度获取局部结构信息,其中GCN的卷积核中加入来区分自连接节点和其他节点,将每个节点的所有胶囊拼接为节点特征,并对得到的特征先使用Graph Norm对其进行归一化,然后,利用Transformer获取图的全局结构信息以及节点之间的语义信息,并根据胶囊形式对得到的节点特征进行拆分,得到原始胶囊;其次,本文利用动态路由机制通过为每个图生成多个嵌入来捕获图级的重要信息和属性,并利用注意力机制来关注重要特征;最后,再次对胶囊特征使用动态路由,得到分类胶囊,对其进行分类。本文提出两种改进,第一是引入Transformer可以获取图的全局结构信息以及节点之间的语义信息;第二是使用Graph Norm对GCN的节点特征归一化。本文使用六个生物信息和社会网络上的图数据集对该框架进行了评估,并证明Caps Trans在图分类任务上优于其他SOTA技术。