近几年来,随着自然语言处理的快速发展,语义角色标注作为自然语言处理研究中最重要也是最基础的步骤也因此受到了极大的关注。深层神经网络被广泛应用于语义角色标注的任务当中,尤其是将深度注意神经网络模型应用于语义角色标注研究中,为语义角色标注带来了新的突破。但是随着深度注意神经网络的网络层数增加以及随着网络层数增加带来的横向神经元增加,导致了训练过程中出现训练不稳定问题以及梯度爆炸和梯度消失问题,在这种情况下,在语义角色标注系统中标注数据时,不仅耗时增加,还会出现卡顿现象。为了解决上述问题,本文针对深度注意神经网络模型进行了优化,加速了模型收敛速度,增强了网络稳定性及模型表达能力。实验结果表明本文方法能够有效解决随着神经网络层数的加深,梯度信息回流受阻造成的网络模型训练困难以及训练不稳定问题。本文还利用优化后的深度注意神经网络模型设计了语义角色标注系统。本文进行了基于深度注意神经网络的语义角色标注研究与实现,主要贡献如下:(1)针对由于神经网络层数增加导致的横向神经元增加带来的模型训练困难以及不稳定问题,本文引入了Layer Normalization函数来全局优化深度注意神经网络模型。该实验结果表明,引入Layer Normalization函数优化后的深度注意神经网络模型提高了语义角色标注的准确率,同时增强了模型的稳定性。(2)其次针对由于深层神经网络层数增加导致模型训练过程中出现的梯度爆炸和梯度消失问题,本文引入了基于Highway Networks优化的深层双向长短期记忆神经网络单元来替换深度注意神经网络的RNN单元。实验结果表明,优化后的算法模型不仅提高了语义角色标注的准确率,也缓解了由于网络层数增加导致的梯度爆炸和梯度消失问题。(3)本文利用优化的深度注意神经网络模型设计了语义角色标注系统。该语义角色标注系统在训练耗时方面有明显优势,并且卡顿出现次数明显减少,除此之外,该语义角色标注系统提高了语义角色标注效率,支持各种场景下的语义角色标注任务,并可以对语义角色标注任务进行管理。