在当今日趋恶劣的电子战环境中,能够有效地抑制人为干扰是掌握战场主动权的关键,也是军事通信系统的重要研究目标。迭代检测作为一种很有吸引力的方案,已经在Turbo码、信道估计、多用户检测等领域得到了广泛的应用。在抑制人为干扰方面,迭代检测通过交换各个软输入软输出（Soft Input Soft Output,SISO）模块之间的外信息,通过迭代来逼近整个系统的最优解输出,使系统获得优越的抗干扰性能;迭代干扰估计在干扰类型已知的前提下,可以估计出干扰信号的特征参量或者干扰状态信息（Jamming State Information,JSI）,并利用这些信息进一步优化迭代检测,提高系统的抗干扰能力。另一方面,传统的跳频（Frequency Hopping,FH）技术具有较强的抗多径能力、抗人为干扰能力,如果把跳频通信系统与迭代检测技术结合在一起,则系统的综合性能指标,包括通信可靠性,保密性能,频谱利用率都会得到很大提升。因此,本文把跳频系统和连续相位调制（Continuous Phase Modulation,CPM）结合在一起,并研究了相应的迭代干扰抑制算法。第二章简要介绍了迭代检测的原理与应用,并且建立了FH-CPM系统模型。CPM信号是一种有记忆非线性调制方式,通过CPM信号和信道码的串联形成具有类似串行级联卷积的信号结构,并在接收端进行联合解调译码迭代检测。CPM信号还有其他一些特点:它的信号能量集中,占用带宽小,对邻道的干扰小;是一种非线性调制,具有恒包络,可以使用效率更高的非线性放大器,而且其恒模特性还方便接收机进行信道估计。第三章研究了相干FH-CPM迭代干扰抑制算法及其性能。并针对部分响应CPM信号解调复杂度高的问题,通过引入CPM信号的罗伦特分解,改进了软输入软数出解调算法,降低了接收机复杂度。在系统性能分析方面,由于迭代系统中交织器的引入,软输入软输出模块外信息的概率密度函数非常复杂,难以从数学上进行完备和准确的推导,因此采用了外信息转移图（Extrinsic InformationTransmission Chart,EXIT）进行了迭代收敛性的分析。仿真结果显示,这种系统方案和迭代检测算法在加性高斯白噪声（Additive White Gaussian Noise,AWGN）信道下有很好的误码率性能,在部分带干扰和多音干扰环境下也有较好的干扰抑制作用。第四章研究了非相干FH-CPM迭代干扰抑制算法及其性能。提出了一种基于CPM信号罗伦特分解的迭代树搜索软输入软输出解调算法,并利用EXIT图分析了接收机的收敛特性。仿真结果显示,在迭代检测接收机中,跳内符号数为20时,采用非相干解调与相干解调的系统在加性高斯信道下所对应的误码率性能差距在1.5dB左右。第五章研究了部分带干扰JSI估计算法,提出了一种多音干扰的JSI迭代估计算法。为了进一步提高系统的干扰抑制能力,文章考虑对接收信号进行迭代估计并把干扰状态信息输送给迭代检测器。针对部分带干扰,文章从干扰状态信息的后验概率出发,阐述了部分带干扰状态信息的迭代估计算法,并与迭代检测系统一起进行部分带干扰的抑制。仿真结果表明,迭代干扰估计器的引入,使得相干迭代干扰抑制在目标误码率10^-4处产生了接近3dB的性能增益:使得非相干迭代干扰抑制在目标误码率10^-4处产生了1dB的性能增益。针对多音干扰,本文提出了一种时域迭代估计算法,该算法能够通过迭代对干扰状态信息和干扰判决门限进行更新,避免了采用频域估计时干扰判决门限依靠经验值进行设定的缺点。仿真结果表明在原有迭代检测器的基础上,迭代干扰估计器的引入能够基本使得多音干扰信号被重建进而抵消,大大地改善了接收机的抗干扰性能。