经颅磁刺激(Transcranial Magnetic Stimulation,TMS)是一种无创、无痛的绿色神经调节法。由于该技术具有功能独特、使用成本较低以及操作简便等优点,很快被推广到临床和科研的各个领域。但在实际应用中,TMS很难精确地把握刺激部位,且刺激线圈处于固定状态无法补偿患者头部的移动,这很大程度上降低了治疗效果。基于传统TMS治疗方式的局限性,本文设计了TMS治疗机器人定位与跟踪系统。本文针对TMS治疗机器人系统的需求,确定了以提高刺激精度和减少因治疗给患者带来的痛苦为定位与跟踪系统的设计指导思想,其主要研究内容包括TMS治疗机器人系统总体方案设计、头部位姿检测与跟踪、基于力传感器的末端位置调整控制以及TMS治疗机器人避障策略研究。定位与跟踪系统各组成部分的协调工作过程为,在视觉的引导下实时检测患者头部的位姿,利用具有六自由度的机械臂标定TMS线圈并补偿患者头部的运动,同时,根据机械臂末端力传感器的测量值实时调整末端的位置,使得线圈进一步贴合头部并提高系统的安全性。为使得系统的操作流程更加简单和降低使用成本,本文首次将具有标记的三维姿态估计技术应用到TMS治疗机器人系统,利用标记和单目相机对头部进行定位。患者通过佩戴贴附着标记的AR眼镜完成定位任务,并感受AR虚拟场景放松自己;针对系统的安全性问题,TMS治疗机器人末端的位置被实时调整。考虑力传感器零漂在不同姿态下的不一致性以及运动学建模误差对重力补偿精度的影响,提出了一种基于BP神经网络的机械臂末端工具重力补偿方法。在重力补偿基础上,利用自适应位置决策控制器对末端的位置修正量做出决策,使得末端能顺从头部的移动,防止头部撞击线圈;由于治疗环境的不确定性,本文采用深度强化学习决策TMS治疗机器人的运动方向,搭建并训练避障的网络模型,利用模型引导机械臂避开障碍物并优化路径。最后,以本文所设计的定位与跟踪系统为实验平台,验证了患者头部定位和运动补偿功能的可行性,并对3D仿真环境下的避障模型进行迁移实验。为进一步方便医护人员的操作,本文在QT平台下为该系统设计了上位机软件。