随着深度学习的发展,卷积神经网络被应用于计算机视觉的各种任务中,如目标分类、目标检测和分割。然而,由于卷积神经网络模型自身的体积大,计算量高,这阻碍了其部署到内存和功耗受限的嵌入式等终端设备上。当前许多基于剪枝和量化的模型压缩方法,在减小模型的尺寸、参数量和计算量上都取得了显著的效果。但这些方法压缩后的模型多数需要特殊软硬件的支持,这增加了部署成本。此外,这类方法主要应用在分类任务中,很少直接应用于检测任务中。为了节约压缩模型的部署成本,本文提出一种三阶段的模型压缩方法:稀疏化训练、分组剪枝和知识蒸馏,使得压缩后的模型无需特殊软硬件的支持,提高模型压缩方法的效率和适用范围,本文的主要研究内容如下:1.针对目标检测网络,本文提出一种新型的结构化通道剪枝方法,称为分组通道剪枝。首先,对网络进行稀疏化训练,筛选网络中不重要的通道;其次,将目标检测网络中不同的层按照功能模块分成多个组,并赋予每组不同的剪枝比例;然后根据每组不同的剪枝比例获取各组的剪枝阈值;最后,根据每组中的剪枝阈值对当前组内特征层执行通道剪枝。2.为了减小较高剪枝率给模型所带来的精度损失,本文进一步引入了知识蒸馏,使用未剪枝的网络作为教师网络,已剪枝的网络作为学生网络。特别地,本文从每组的特征层中提取空间注意力图,使用该空间注意力图作为蒸馏的主要知识,并将教师网络中类别的预测以及目标位置的预测这两种输出作为辅助知识,使用这三种知识对剪枝后的网络进行蒸馏。实验中,本文使用YOLOV4作为目标检测网络,训练数据集使用PASCAL VOC,本文的方法使得模型的参数量减少了64.7%,计算量减少了34.9%,同时相比于原始网络大小为256M,精度为87.1的原始网络,本文压缩后的网络模型以90M的大小达到了86.6的精度。