目标检测通过目标定位与分类实现对图像中特定目标的检测。作为计算机视觉的重要任务之一,目标检测被广泛应用于安防、交通和医疗等领域,如人脸检测、自动驾驶和医学图像分析等。基于深度学习的目标检测技术在很多视觉应用方面的表现超过人类,这使深度学习算法成为当前目标检测的研究重点。小目标指图像中小于32×32像素区域的目标,由于小目标像素少、承载信息量低,所以小目标检测是目标检测的研究难点。图像的小目标相对于大目标携带信息量小、样本制作成本高,常规目标检测算法无法较好地处理小目标检测问题。本文围绕多尺度检测、正负样本平衡及上下文信息等三个方面,基于Faster R-CNN研究不同应用场景下的小目标检测问题。以下是论文取得的主要研究成果:（1）针对小目标尺度小和特征难以提取的问题,提出一种多尺度空间特征增强的预测金字塔算法（Multi-scale Spatial Feature Enhance Pyramid,MSFEP）。MSFEP算法舍去FPN的最大池化层以增强浅层空间特征,通过与深层语义特征融合提高小目标的检测性能。基于MSFEP算法和多尺度自定义锚框生成机制（Multi-scale Anchor Generation,MAG）生成的多尺度锚框与待检测目标形状和尺度更适配,能使Faster R-CNN检测到不同尺度下的目标;同时,引入权重衰减正则化方法降低网络权重,提高检测模型的目标检测性能。为验证所提算法有效性,本文从MAFA和FDDB两个公开数据集中选取人脸和佩戴口罩人脸图像,重新标注、构建口罩佩戴检测数据集。口罩佩戴检测实验结果表明加入MSFEP算法的Faster R-CNN检测效果较好,与基准模型相比提升了6.4%的小目标检测性能。（2）针对小目标在候选区域生成阶段正样本较少的问题,本文提出一种基于正负样本平衡的数据增强策略。图像中小目标的有效像素及可用于模型梯度更新的信息量少,这是导致小目标检测性能差的直接原因。数据增强策略有选择地复制图像中的小目标并多次粘贴到训练图像,生成针对小目标检测的图像数据集,在模型的训练阶段引入马赛克增强算法丰富小目标的检测背景,提升Faster R-CNN的鲁棒性。引入自注意力机制,设置Faster R-CNN的特征提取网络为Swin-Transformer Tiny（Swin-T）网络,以提高模型的检测性能。交通标志检测实验结果表明,基于正负样本平衡的数据增强策略和Swin-T网络能有效提升Faster R-CNN的小目标检测性能。（3）本文结合MSFEP算法和Swin-T网络,基于Faster R-CNN设计膀胱癌浸润性辅助诊断模型。针对小目标可用信息较少的问题,本文提出采用基于上下文信息的数据标注法构建膀胱肿瘤亚型检测的小目标数据集。在T2加权序列的MRI图像上,利用MSFEP算法和Swin-T网络增强膀胱壁与肿瘤之间的空间特征,采用带有检测框与真实框之间交并比（Intersection over Union,Io U）信息的边框回归损失函数提升病灶区域定位任务的精确度。经Smooth Grad-CAM++方法可视化的类别激活热图既为临床医生提供可解释的膀胱癌浸润性诊断依据,且表明所提算法可学习到膀胱癌亚型类别信息。实验结果表明设计的模型能为临床诊断提供有效的辅助诊断信息。论文基于Faster R-CNN研究小目标检测中的一系列关键问题,以丰富目标检测应用场景。论文研究成果对提高小目标检测性能、扩大目标检测适用范围具有一定的借鉴意义,并为基于Faster R-CNN的小目标检测的研究与应用提供了参考。