中国已经成为世界上规模最大、运营速度最高的高速铁路国家。截止2021年底,我国铁路运营总里程突破15万公里,其中高铁运营里程突破4万公里,路网规模大、覆盖不同气候和环境条件、运营场景复杂是我国铁路主要特点。近年来,我国已发生多起因高铁运行环境异常导致的行车安全事故,造成人民生命和财产重大损失,因此高铁运行安全防控极为重要。通对高铁事故分析归纳,典型危情场景包括周界入侵、落石侵限与自然灾害。针对高速铁路运行环境安全保障,高铁实际运营中部署了多种监测系统。其中,自然灾害的监测系统应用广泛,效果显著,但是针对周界入侵与落石侵限两种典型场景的侵限监测却仍有不足。近年来,随着人工智能技术飞速发展,环境感知设备迭代升级,智能化与精准化是高铁运行安全监测技术的发展方向。本文从高铁典型侵限场景——周界入侵与落石侵限的实际问题出发,开展面向高铁运行环境安全的侵限监测关键技术研究。面向复杂铁路运行环境,分析不同侵限监测技术适用性,提出基于视频与雷达的高铁侵限监测方法,将检测结果融合决策,进一步提升侵限检测能力,保障列车运行安全,降低环境安全风险,论文主要工作如下:（1）基于光照分解的低照度深度学习增强方法。针对低照度环境监控视频中目标难以检测的问题,结合光照分解理论与深度学习方法,提出了一种多尺度光照分解与增强网络,对低照度图像进行增强。首先,将低照度图像通过构建光照分解子网络,分解为反射图与光照图。其次,设计两个图像增强子网络,将光照图与反射图分别输入增强子网络进行增强。最终将增强后光照图与反射图进行合成,得到照度增强图像。针对图像增强过程中易出现的伪影、模糊等问题,设计一种多尺度特征提取模块,提升网络对不同大小特征的学习能力。通过实验结果表明,该方法可以有效提升低照度图像亮度、对比度与细节,在主客观评价指标上,对比其他主流方法均取得了最好的效果。（2）基于视频的铁路周界入侵深度学习检测方法。铁路监测视频中不同远近人员成像面积差异大,且复杂多变自然环境会产生干扰,这导致周界中目标难以检测。因此,提出一种改进的Fair MOT框架的周界入侵检测模型。为提高对不同成像大小行人的检测性能,通过增加感受野模块来丰富网络感受野,提取不同尺度特征特性;为提高对夜间行人的检测性能,通过增加空间注意力模块来微调特征,提取更多前景行人的特征;通过使用铁路周界入侵真实数据与行人跟踪数据集混合训练网络,提高该方法针对铁路场景人员识别的泛化性与鲁棒性。在铁路周界入侵真实场景数据中进行了多种实验,结果分析表明,改进方法在白天或夜晚不同大小目标检测中,均取得了最高的F1分数,表明该周界入侵检测方法可以更有效地应用于实际场景,具有实用价值。同时与低照度增强方法进行联合检测,可以进一步增强检测算法在低照度场景的周界入侵检测能力。（3）基于毫米波雷达的铁路周界入侵智能检测方法。针对视频检测方法对特殊复杂自然环境抗干扰能力较弱的问题,基于抗干扰能力强的毫米波雷达,提出一种周界入侵智能检测方法。首先,针对毫米波雷达数据维数较高,对算法计算能力消耗较大,利用主成分分析方法对高维数据进行降维。其次针对支持向量机检测模型最优参数选择难题,提出基于反向精英学习策略联合灰狼优化算法的参数寻优方法,通过该方法寻找支持向量机最优参数值。实验表明,本文方法构建的检测模型具有更高识别率与最快收敛速度。同时,基于视频与毫米波雷达进行周界入侵联合检测。结果表明,通过两种方式进行决策融合检测,具有更好的识别效果。（4）基于视频的铁路落石侵限检测深度学习方法。针对落石侵限检测中,与铁路背景相似和小尺度落石异物检测难点,提出一种基于深度学习的铁路落石侵限检测方法。针对落石与背景相似问题,融合混合注意力模块,强化网络对前景目标特征的学习能力。针对小目标落石,在网络结构中融合双向特征金字塔模块,加强了不同层级特征间相互交流。同时采集大量不同场景模拟落石数据,构建模拟落石数据集,在训练中使用Mosaic数据增强方法,增强检测方法的泛化能力。实验结果表明,对比多种主流目标检测方法,本文方法取得了最高准确度,不同大小目标识别结果稳定。同时与低照度增强方法进行联合检测,可以进一步增强检测算法在低照度场景的落石侵限检测能力。（5）基于激光雷达的铁路落石侵限检测智能方法。针对视频检测方法对特殊复杂自然环境抗干扰能力较弱的问题,基于抗干扰能力强的激光雷达,提出一种落石侵限智能检测方法。首先,针对铁路场景大量无效背景点云数据,通过直通与统计滤波方法,提取铁路限界内点云数据。其次,构建基于样本约束的随机抽样一致性算法,对限界内轨道面点云进行分割。最后,提出一种参数自适应的聚类方法,将分割的轨道面落石等异物目标点云进行聚类,得到落石等异物侵限结果。实验结果表明,本文方法,有效降低点云数据计算量,对比其他方法,取得了最好检测结果。同时,基于视频与激光雷达进行落石侵限联合检测。结果表明,通过两种方式进行决策融合检测,具有更好的识别效果。