TETRA数字集群移动无线通信系统是ETSI(欧洲通信标准协会)为了满足欧洲各国的专业部门对移动通信的需要而设计、制定统—标准的开放性系统。为了满足高速数据传输和适用基于IP的高速多媒体应用,TETRA标准发展出TETRAII,其物理层采用了一系列先进的技术,其中调制技术采用了基于滤波器组的多载波调制滤波多音调制FMT。TETRA系统在我国公安、交通运输等部门得到了广泛应用,但是目前设备和技术都被国外垄断,设备引入价格昂贵,限制了我国数字集群系统的持续发展。所以自主研发TETRA系统具有重要的理论和现实意义。本文主要研究FMT调制技术及其信道均衡和估计。论文研究了FMT调制基本原理以及滤波器组在多载波调制中的应用,重点研究了非严格采样FMT调制的有效实现方式,仿真分析了非严格采样FMT在AWGN下的误比特性能,并与OFDM进行了比较。论文研究了FMT系统子信道等效,得出在一定假设条件下,输出信号是输入信号与传输信道频率响应的乘积,以此结论采用了后置式DFE均衡方式,仿真分析了基本DFE、postDFE以及分别基于MMSE和迫零准则的线性均衡算法,仿真结果表明单抽头频域均衡虽然性能稍差于基本DFE,但计算量小更具实用性。论文研究了TETRA中导频符号的插入方式,并以此结合基于导频的信道估计算法,利用二维线性插值和时域贝叶斯估计频域线性插值两种算法估计信道,仿真表明,基于时域贝叶斯估计频域线性插值的算法性能更好。