随着无线移动通信的蓬勃发展,信号高速率传输的需求日益增加。为寻求在有限带宽内传输更多数据,超奈奎斯特传输技术、重叠复用理论应运而生,虽然这些技术有效提升了频谱的利用效率,但因其违背奈奎斯特准则而人为引入了符号间干扰（Inter-Symbol-Interference,ISI）。另外,无线通信系统的信号传输过程中,信号受散射反射等影响,经多条路径传播导致接收信号存在ISI,严重影响信号质量。为消除上述ISI的影响,需要在接收端使用均衡技术和相对应的接收检测算法,本文系统地研究了多重ISI影响下的信号检测关键技术。主要研究工作和创新点如下:首先分析了现有的ISI信号检测技术,其基本原理是利用已知干扰的约束关系使用矩阵特征分解检测算法来恢复发送信号,但随着ISI变严重,该算法性能也随之下降。针对矩阵特征分解检测算法在处理多径信道下多重干扰性能较差的问题,本文提出频域均衡联合维特比检测的算法,仿真结果表明系统性能得到了改善。本文还对频域均衡中分别采用迫零算法和最小均方误差算法的系统性能做了研究,迫零算法由于未考虑噪声影响,因此性能略差于最小均方误差算法。但是因人为引入的ISI在多重干扰中影响更大,所以频域均衡采用不同算法性能差距并不明显。为了进一步提升系统的性能,本文又提出一种基于trellis结构的多径ISI信号检测算法,通过仿真发现系统误码性能较上述频域均衡联合维特比检测算法有了进一步的提升。另外,对于信道估计是否理想的情况,本文对两种所提算法的系统性能做了对比分析,结果表明信道估计非理想会使两种算法的误码性能都有所损失,但是信道估计理想与否对基于trellis结构的检测方案影响更大。最后,受限于前两种检测算法的高计算复杂度,本文又对低复杂度条件下的ISI信号接收检测算法做了研究,提出了基于串行干扰消除结构的检测算法,系统仿真结果说明该算法在同等低复杂度条件下性能优于前两种检测算法,是一种可应用于多重ISI信号检测的低复杂度算法,弥补了低复杂度条件下联合检测算法和基于trellis结构检测算法性能不足所带来的影响。