终端设备的普及促进了移动互联网和物联网的飞速发展,未来移动通信网络不但需要满足人与人之间的通信,同时也要满足物与物之间的通信。第五代移动通信系统(5G)中的重要应用场景之一就是物联网场景(M2M,Machine to Machine)。M2M场景能够为海量的终端设备提供通信服务,这些设备具有低复杂度、低功耗的特点,其传输的数据具有低速率、小数据包的特点,目前的长期演进(LTE,Long Term Evolution)系统无法满足M2M场景的需求。面对海量终端用户的连接需求,现有基于授权接入的多址接入方式将会为通信系统带来沉重的接入信令开销。针对该问题,免调度传输技术能够避免接入信令开销,降低传输时延和终端功耗。此外,大规模MIMO(Multiple-Input Multiple-Output)技术能够增加系统吞吐量,提高传输可靠性,提升系统的频谱效率和能量效率,被业界认为是未来移动通信系统中的核心技术之一。因此,本文围绕M2M应用场景,在大规模免调度传输场景下对活跃用户检测和信道估计方法展开深入研究。首先,本文比较了授权接入与免调度传输两种接入方式。当前LTE上行传输需要经过授权接入实现动态资源分配,这个过程会产生信令开销,而免调度传输省去了用户与基站间的动态资源分配过程,一旦用户完成网络注册,即被分配导频序列和时频资源块。当用户需要传输数据时,直接发送数据给基站,不需要重新建立连接。因为缺少动态资源分配过程,基站接收到信号后无法区分哪些用户发送了数据,即不知道哪些用户是活跃的。为了恢复传输的数据,必须首先进行活跃用户检测和信道估计。本文将免调度传输中的活跃用户检测与信道估计问题转化为压缩感知理论中的单向量测量(SMV,Single Measurement Vector)与多向量测量(MMV,Multiple Measurement Vectors)问题,并将免调度传输中的导频设计问题转化为测量矩阵设计问题。其次,考虑大规模用户接入场景,基于MMV模型的活跃用户检测算法无法支持足够多的活跃用户数,同时也没有充分利用基站侧大规模天线这一特点。本文利用基于Khatri-Rao积的压缩感知理论,将活跃用户检测模型由MMV问题转化为SMV问题,提出了基于Khatri-Rao积的正交匹配追赶算法(OMP-KR),分析了基站侧大规模天线下活跃用户检测的性能。进一步提出了基于ZC序列的导频设计方案和未知活跃用户数情况下OMP-KR算法的迭代终止条件。仿真结果表明,相比于同步正交匹配追赶(SOMP,Simultaneous Orthogonal Matching Pursuit)算法和 M-FOCUSS 算法等传统的MMV算法,OMP-KR算法能够支持更多的活跃用户。在活跃用户数相同的条件下,OMP-KR算法的活跃用户检测性能优于传统的MMV算法。随着天线数的增加,OMP-KR算法相比传统的MMV算法能够获得更大的性能增益。最后,在大规模MIMO系统中,波束域信道具有稀疏性。利用波束域信道特性进行活跃用户检测和信道估计可以支持更多的活跃用户,提高系统的信道估计性能。本文提出了基于波束域信道特性的修正多正交匹配追赶(MM-OMP,Modified Multi-Orthogonal Matching Pursuit)算法。该算法将压缩感知中的MMV问题转化为多次SMV问题,利用波束域信道稀疏性,提高每次SMV过程中的信道估计精度,最后根据信道矩阵联合稀疏特性实现活跃用户检测和信道估计。仿真结果表明,采用MM-OMP算法能够比SOMP算法和M-FOCUSS算法等传统的MMV算法拥有更好的活跃用户检测性能和信道估计性能。随着基站端天线数的增加,MM-OMP算法能够获得显著的性能增益。