协作中继技术可以提高通信网络的物理层安全性能,进一步获得空间分集增益。随着中继节点的增多,信息传输面临着能量大量损耗的问题,为了有效合理的利用能量资源、提高系统安全,中继节点的合理选择问题得到了广泛的关注,需要针对不同网络模型研究合适的中继选择算法,在提高能量利用率的同时保证信息的安全传输。本文研究了物理层安全协作通信网络在放大转发机制下的多中继选择问题,首先,为了寻找局部最优的中继节点,提出了基于联盟博弈的分布式多中继选择算法(CFG),能够在保证低复杂度的同时,提高分布式网络的安全容量。仿真研究了源功率、中继功率等参数对网络性能的影响,并验证了CFG算法的有效性和自适应性;此外,与传统的帕累托最优规则相比,本文所提出的基于最大联盟阶的CFG算法安全性能更好。虽然CFG算法复杂度比较低,但是各个节点需要掌握精确的信道信息才能够得到准确的选择结果,因此并不适用于环境未知的通信网络。接着,为了适应未知环境并进一步提高网络安全性,针对全局最优的中继选择方法,提出了一种基于随机学习的自组织算法(L-MRS),根据概率更新规则、以自学习和自优化的方式寻找最佳中继组合。目的节点是以自优化的方式来选择最佳状态,而中继节点根据环境反馈决定是否加入合作。仿真验证了L-MRS算法能够正确的选择最优中继组合,并且与联盟形成博弈方法相比,可以获得更高的安全容量。