目前,各种精神类疾病严重影响患者的健康生活,研究行为可以对精神类疾病的治疗提供很大的帮助,对于各种精神类疾病的研究,通常采用动物作为研究模型,开展动物行为学实验,动物行为学实验为精神类疾病的研究提供重要依据,具有一定的研究意义和价值。在动物行为学实验中,对实验数据的采集和记录一直是实验人员的难题,虽然已经从手动分析发展成现在的图像分析方法,但这种传统方法还存在以下不足:（1）现有的动物行为学分析软件大部分都是采取离线分析的形式,不能做到实时分析,实验效率低下。（2）传统的动物行为学分析软件中,每种软件仅支持一个特有场景的行为分析,面对多种不同的动物行为学实验场景则无法胜任,广泛性较低。（3）分析系统大多都采用图像处理的方式,仅能分析动物的一些简要信息,如小鼠的重心位置,不能做到对动物身体关键点的细节分析。为解决传统动物行为学系统的不足,本文的研究工作为开发一种面向动物行为学的实时目标检测及跟踪系统,主要研究工作如下:（1）为实现实时目标检测及目标跟踪,采用Retina Face神经网络训练模型,并利用NVIDA Tensor Rt对模型进行加速并构建引擎,实现神经网络的正向推理,提高模型的推理速度。（2）利用Lab VIEW语言编写动物行为学系统的用户操作软件,为了解决Lab VIEW环境无法进行深度学习的问题,采用Lab VIEW调用DLL的形式完成C++程序的调用,实现了Lab VIEW环境下的深度学习,软件操作方便且具有较高的执行效率。（3）为了使动物行为学系统的资源利用率更高,采用并行处理的方式优化程序,显存中始终缓存两帧数据,采用先入先出的原则,减少了数据在内存和显存之间拷贝时间带来的影响,提高了目标检测的时效性。（4）为解决传统动物行为学系统软件应用场景及分析数据单一的问题,设计了一套可应用于多种不同场景的动物行为学自动化分析系统,通过相机实时采集图像,计算机实时分析数据,实现小鼠的目标检测与跟踪,并集成多种不同行为的分析,最终将实验结果保存,减少实验人员的工作量,提升实验效率。搭建动物行为学实验场景进行测试,本系统具有良好的检测效果和跟踪效果,能适用于多种动物行为学实验,如旷场、水迷宫和三箱社交实验等,并且可以实时分析多种不同的行为信息,如小鼠的轨迹、位移量、移动速度、停留时间等,满足动物行为学实验的需求。