传统波达方向(DOA)估计算法所需快拍数大,无法直接处理相干信源且敏感于噪声。压缩感知波达方向(CS-DOA)估计能够在小快拍数和低信噪比的条件下估计相干信源的来波方向。为了进一步提高CS-DOA估计的测角分辨力和阵列利用率,本文针对特殊阵列条件下的CS-DOA估计展开了研究。首先,针对常规CS-DOA估计算法中阵元利用率低和计算量大等问题,本文提出了一种基于最小冗余线阵的正交匹配追踪算法。所提算法利用最小冗余线阵作为空间信号的接收阵列,充分地扩充了阵列孔径;并在此模型下更新了观测矩阵,有效地降低了观测值的维数。仿真结果表明,所提算法能够利用较少的阵元实现低信噪比和小快拍数的条件下相干信源的高分辨DOA估计。然后,本文在阵列孔径和阵元数一定的约束条件下,提出了一种基于混沌机制的免疫遗传算法来搜索DOA估计的最优阵列结构。该算法通过混沌机制确定疫苗的长度,并利用最优父代个体作为疫苗母本制备特殊疫苗。疫苗的接种充分地利用了约束问题的先验信息,有效地提高了阵列的多样性。与经典遗传算法相比,该方法能够有效地避免早熟现象和种群退化问题。仿真结果表明,利用基于混沌机制的免疫遗传算法搜索到的最优阵列结构具有更高的适应性。最后,为了将CS-DOA估计应用到更多阵列结构中,本文提出了基于非均匀线阵的正交匹配追踪算法。该算法首先利用基于混沌机制的免疫遗传算法优化DOA估计的阵列结构,通过实验仿真证明了优化所得非均匀线阵具有一定的通用性,在此模型下提出了基于非均匀线阵的正交匹配追踪算法。实验仿真表明,该算法不仅在小快拍数和低信噪比的条件下具备良好的解相干能力、较高的测角分辨力和阵元利用率,而且阵元位置设置灵活。极大地满足了复杂的实际工程环境的需求。