科技的日异月新催促着各行各业的蓬勃发展,互联网作为社会的领头羊,与各行各业无时无刻连接在一起。伴随在传输、基础设施、计算能力都获得快速提升的基石下,智能互联网也因此诞生。手机作为人与互联网的一个重要接口,每天都会在其上面留下大量的行为数据,这些数据维度极其丰富且具有较强时效性。在互联网业务场景中,如何对用户画像进行高效预测是目前各大公司研究的核心问题之一。传统的用户画像都是以人工打标签为主,其效率极低,因此如何在大数据场景下,借助算法模型为用户画像打标是现如今的研究热门之一。但在高维且稀疏的特征数据下,利用传统的机器学习算法很难去挖取特征间的多层关系,并且相关特征需要人为借助业务逻辑进行构造,限制了与用户画像相关的下游应用。为了解决上述问题,本文在深度学习和注意力机制的基础上进行优化。首先对目前流行的Wide&Deep学习框架进行学习,研究该框架对高低阶特征如何进行组合学习,并对相关基础算法进行介绍;接着对数据中出现的序列信息进行研究,提出用Attention和BiLSTM的结合对用户的序列信息进行挖取;最后提出一种改进Deep FM的算法,对数据进行高低阶的组合,解决高维度稀疏的特征自主学习问题。主要内容如下:（1）对Wide&Deep框架及其变体进行研究并以其作为基模型。这种模型的整体思路是吸取浅层模型具有的记忆功能和深层模型的泛化功能,生成出联合模型去提高模型的准确性和功能的可扩展性。此模型框架针对不同业务需要作出不同的修改,因而为后续模型的优化提供了优化方向。（2）借助Attention BiLSTM提高对序列信息的挖取能力。自然语言处理对序列化数据具有很强的抽取特征能力,本文借助Attention BiLSTM用于序列化的挖取。将用户历史行为元素当作词语输入到BiLSTM进行序列化学习,保存每个cell的输出然后经过Attention网络进行学习,提高序列信息的提取。最后将Attention输出的向量当作用户历史行为信息的Embedding特征。（3）本文将借助手机应用数据进行用户画像的研究,提出一种改进Deep FM模型的算法,在原始的FM基础上加入Attention机制,利用Attention机制对类别特征进行显示特征组合权重学习,这样不仅可以提高模型的整体性能,还能提高模型的可解释性。而原来的Deep组件改用残差网络,使整体网络在没有增加参数量的情况下增强了特征组合能力,使模型达到更高的精度。