近年来,滤波器组多载波(Filter bank Multicarrier,FBMC)系统由于其带外泄漏低、抗干扰能力强、频谱效率高和支持异步传输等优点而受到广泛关注。但是该系统也存在着比较严重的缺点。首先,由于FBMC仍然属于多载波的范畴,其时域波形则不可避免地存在峰均比高的问题,而且因为其符号之间存在着重叠,峰均比抑制手段与传统OFDM系统也有所区别。此外,为了获得良好的带外泄漏特性和抗干扰能力,FBMC放弃了复数域的正交,导致子载波和符号间都存在干扰,给信道估计与均衡都造成了困难,这也成为系统走向实用性的最大障碍。因此FBMC系统的峰均比抑制与信道估计都值得深入研究。在FBMC的峰均比抑制方法中,本文选择了限幅方法和部分传输序列技术进行研究。在利用部分传输序列方法抑制FBMC系统峰均比时考虑到符号之间的重叠性需要对多个符号联合优化,为了减小相位因子搜索的复杂度有动态规划算法和贪心算法两种策略,但是动态规划算法复杂度偏大,不太实用,贪心算法在分块数多时搜索效果偏差。考虑到实际使用时FBMC系统的子载波数一般较多,贪心算法容易出现性能不足,本文提出了依次迭代搜索和基于模拟退火搜索两种方法。依次迭代搜索算法能在一两次迭代之后获得明显的效果提升,模拟退火算法在选择合适的退火策略时能以很大的概率获得最优解,而且两种算法的复杂度都远小于动态规划算法。在FBMC系统信道估计问题上,研究和对比了传统的频域估计方法和时域WLS估计方法。为了使导频效率最大化对时域估计模型进行了扩展,并求解出对应的优化导频。仿真结果表明,导频效率最大化以后在块状导频情况下算法的估计误差相比原有算法减小了2dB,导频稀疏情况的估计性能也同样获得了一定程度的提升。此外,为了进一步减小估计误差,本文针对FBMC系统符号之间的相关性,提出了联合估计算法并同时给出了对应的一组优化导频,使用联合估计能进一步减小误差。在硬件设计的问题上,按照与OFDM系统类似的设计方法对FBMC收发信机几个基本模块进行了设计,并通过仿真验证了各模块设计的正确性。推导了利用QR分解降低时域估计复杂度的方法并基于该方法设计出对应装置,使用该方法可以在减小计算复杂度的同时获得较好的估计效果。