随着频谱资源的日益匮乏，盲自适应均衡算法，由于其不需要训练序列，仅仅通过接收信号的统计特性来获得信道的状态信息，从而有效地恢复出发送信号的特点，成为研究热点。恒模算法作为盲自适应均衡算法中重要的一种，以其计算复杂度低、性能比较好、易于实时实现等优点，成为通信系统中广泛研究的盲均衡技术。但由于恒模算法代价函数本身的缺陷，算法存在以下缺点：初始值的设置对其影响非常大；下降方向并非最佳；步长因子对收敛速度有很大限制。　　 本文讨论恒模算法及其信道跟踪能力，以及在MIMO环境和盲多用户检测中的应用。针对恒模算法的几个缺点，对恒模算法进行改进。本文采用线性约束条件克服初始值的影响。对于恒模算法的收敛方向问题，本文首先分析了AWGN信道下LC-CMA代价函数的解析性能，在此基础上提出了一种线性约束DFP恒模算法LC-DFPCMA。随后，又研究了使用最优自适应步长的方式对步长因子问题进行改进，得到了LC-DFPCMA算法的改进算法M-LC-DFPCMA。通过仿真验证了基于DFP算法的恒模算法的优越性。本文根据信道变化快慢程度，提出了把信道模型分成剧变信道和渐变信道。分析研究了恒模盲均衡算法在不同的信道模型下跟踪信道变化的能力，验证了新算法有较传统恒模算法更为优秀的信道跟踪能力。最后将新提出的算法推广应用于MIMO环境和多用户检测，仿真结果表明，该算法具有良好的鲁棒性，能适应多种条件，对于工程应用具有良好的参考价值。