无人船作为海洋开发的智能工具,在海洋环境监测、海洋资源勘探和近海建设等诸多领域发挥着越来越重要的作用,已经成为国内外研究的热点。随着无人船的海洋作业任务越来越复杂,规模越来越大,对无人船的轨迹跟踪控制和编队跟踪控制性能提出了更高的要求。然而无人船的动力学模型极为复杂,难以精确建模,并且在复杂多变的海洋环境中,无人船在航行的过程中不可避免地会受到洋流、风浪等未知干扰的影响,使得无人船的控制性能受到严重威胁,而现有的控制策略难以兼顾实际存在的各种因素的影响,要实现先进的运动控制将面临许多挑战,因此深入研究无人船的轨迹跟踪和协同控制策略具有重要的理论意义和应用价值。本文主要利用Barrier Lyapunov Function（BLF）方法、自适应控制、反步法和神经网络等理论方法,研究在未知扰动下的无人船轨迹跟踪和协同控制问题。主要的研究内容包括如下:（1）针对一类遭受未知扰动的无人船系统,提出一种基于BLF方法的鲁棒性能预设轨迹跟踪控制策略。首先基于有限时间控制理论设计有限时间扰动观测器,用于估计无人船受到的外界扰动;其次,基于BLF方法设计运动学层面的限制误差虚拟控制器,从而可将跟踪误差范数限制在一个时变的边界范围内;最后,结合设计的有限时间扰动观测器,利用反步法构造出相应的鲁棒轨迹跟踪控制器。利用Lyapunov稳定性理论证明该闭环系统是稳定的,通过数值仿真验证了所提出的鲁棒轨迹跟踪控制器是有效的,且跟踪误差维持在预设的时变边界内。（2）针对一类具有外界不确定扰动以及动态模型未知的无人船系统,提出一种基于自适应神经网络的非对称误差限制鲁棒轨迹跟踪控制策略。首先在运动学层,利用非对称的BLF设计非对称的限制误差虚拟控制器;其次,利用神经网络并结合自适应控制方法,设计自适应神经网络估计律用于逼近未知的非线性动态;接着,考虑鲁棒控制方法,设计一个鲁棒补偿器补偿估计神经网络逼近误差;最后,利用反步法结合设计的非对称限制误差虚拟控制器、自适应神经网络、补偿器构造相应的自适应轨迹跟踪控制器。通过Lyapunov稳定性理论证明闭环控制系统的稳定性,数值仿真验证了所提出的自适应神经网络轨迹跟踪控制策略的有效性。（3）针对一类遭受复合不确定动态的多无人船系统,提出了基于BLF和自组织神经网络的限制编队误差协同控制策略。首先在运动学层,利用多智能体一致性方法处理在有向生成树的通信拓扑下的各无人船的状态信息交互传递问题,接着使用BLF方法约束一致性误差在规定的时变边界范围内,设计了限制一致性误差协同虚拟控制器;其次,利用三层前馈神经网络结合自适应方法,并且考虑了一个自组织机制,设计了自适应自组织神经网络用于估计各船的复合不确定动态;最后利用自适应方法设计鲁棒补偿器对神经网络逼近误差以及外界扰动进行输入补偿。基于反步法并考虑设计的协同虚拟控制器、自组织神经网络、补偿器,提出了一种多无人船协同编队控制器。通过Lyapunov稳定性理论证明了系统的稳定性,并通过数值仿真验证了编队控制器的有效性。