现代通信系统中，由于信道衰落、多径传播、同频及邻频干扰等因素的存在，使得信道产生严重畸变，从而导致码间干扰的产生，降低了系统性能。盲均衡技术的采用极大地抑制了码间干扰，提高了系统特性。盲均衡技术是指不借助训练序列，而仅利用接收序列本身的先验信息就能自动收敛的自适应均衡技术。它能有效地补偿信道的非理想特性，克服码间干扰，减小误码率，提高通信质量，已成为当前飞速发展的数字通信领域的一个研究热点。在高速数据传输环境下，由于完全的线性信道是不存在的，因而针对线性信道处理的算法就会失效。因此非线性信道的盲均衡技术就成为亟待解决的难题。多层人工神经网络形成一个静态网络，可以映射静态输入到静态输出，因而人们将目光逐渐转向基于神经网络非线性特性的盲均衡算法。传统的前馈神经网络盲均衡算法在解决盲均衡问题上取得一定的成绩，算法可用于线性或非线性信道，同时克服了信道阶次不确定性带来的影响，对加性噪声也具有一定的容错性。然而基于神经网络本身的特性，它们只对局部搜索有优势，对于有多个极值的情况，容易陷入局部极小。遗传算法是一种全局并行的随机搜索方法，具有较强的鲁棒性和全局收敛能力，本文在总结神经网络盲均衡算法缺陷和局限性的基础上，针对神经网络的结构以及网络权值的优化等方面将遗传算法引入神经网络盲均衡，并通过大量的仿真实验验证了提出的算法的有效性。论文的主要成果包括：(1)在分析总结神经网络盲均衡算法缺陷和局限性的基础上，针对神经网络的结构及网络权值的优化等方面提出新的方法和思路，确定了神经网络盲均衡算法与遗传算法的结合点。(2)针对传统遗传算法的弊端，文中提出了一种新型保持种群多样性的遗传算法，并分别将该算法用于神经网络盲均衡器的权值及其结构的优化，并先后对PAM及QAM信号进行仿真，结果证明了相对于神经网络盲均衡算法，两种改进算法在收敛速度及其剩余误差等性能指标方面均有所改善。(3)归纳和总结了传统遗传算法对神经网络结构优化的缺陷和局限性，而且为了避免传统遗传算法存贮量大、运行时间长和操作复杂的弊端，本文采用精英紧凑遗传算法来实现对网络结构的优化。仿真结果表明，该算法在线性和非线性信道不仅提高了收敛速度，而且获得更小的剩余误差。