作为第五代移动通信系统的候选关键技术,大规模多输入多输出(Multiple Input Multiple Output,MIMO)技术由于高频谱效率和低发射功耗等优势,得到业界的广泛关注。然而,大规模MIMO系统优势的发挥主要取决于基站能否获得精确的信道状态信息(Channel State Information,CSI)。受信道相干时间和系统中用户数剧增的影响,常规的复用式导频配置模式下的信道估计将不可避免地导致频宽利用率下降。因此,研究适用于多用户大规模MIMO系统叠加式导频配置模式下的信道估计显得尤为重要。而在叠加式导频配置模式中,叠加导频(Superimposed Pilot,SP)的设计又与信道估计性能密切相关,因此,本文针对多用户大规模MIMO系统中的叠加式导频优化设计展开研究,主要内容包括:1.在基于SP信道估计的大规模MIMO系统中,当信道相干时间小于系统总用户数时,导频污染(Pilot Contamination,PC)和数据干扰(Data Interference,DI)成为影响信道估计精度的主要因素。首先从减轻PC的角度出发,提出了一种基于块对角化的格拉斯曼线性装箱(Blocked-diagonal Grassmannian Line Packing,BD-GLP)原理的SP优化设计方法,即首先为不同小区设计一特定序列,进而利用块对角扩展,形成各小区的最终叠加导频矩阵。然后在SP优化设计基础上,为减弱DI对信道估计的影响,提出了一种基于Tikhonov正则化(Tikhonov Regularization,TR)的迭代信道估计方法。仿真表明,该方法在充分利用带宽资源的情况下,有效地减轻了PC及DI的影响,提高了信道估计的准确度。2.考虑到在多用户大规模MIMO系统中各用户所承受的PC是相互的事实,提出了一种基于近似等角紧框架(Approximate Equiangular Tight Frame,A-ETF)的软叠加导频优化设计。该方法通过衡量各用户的整体PC因子,对系统内的用户进行软叠加导频配置。同时考虑到在信道估计过程中,信道系数大的用户会对信道系数小的用户产生严重的DI,为此,提出了一种基于排序串行干扰消除(Ordering Successive Interference Cancellation,OSIC)的迭代最小二乘(Least Square,LS)信道估计。最后,综合SP的优化设计和迭代的LS信道估计两个过程,给出了不同用户在不同迭代次数的频谱效率(Spectral Efficiency,SE)的理论表达式。