随着5G、工业物联网和人工智能等现代信息技术的高速发展,将工业4.0与人工智能相结合的工业智能应用技术已被广泛使用。为了支持工业智能技术的发展,深度神经网络（DNN）的应用已成为工业设备场景的通用技术。由于现代工业中以有向无环图（DAG）为特征的DNN任务急剧增加并且任务计算量大,难以同时满足这些关键性DNN任务的延迟和准确性要求。近年来此类问题的解决方案是结合云和边缘计算资源实现DNN分区推理加速,以实现高效地协作推理。然而,网络条件的动态性和云计算资源的不确定性给这种协作推理带来了巨大的挑战,难以保证DNN任务的服务质量需求。为了解决上述问题,本文利用DNN分区推理技术和机器学习方法,提出了DAG式DNN按需加速分区推理方案和自适应提前退出选择方案以及相应的架构和算法。详细的研究内容概括如下:为了满足DAG式DNN推理在低时延条件下高精度的服务质量需求,本文提出了一种DAG式DNN按需加速分区推理方案（DDPI）。首先,本文设计了支持DAG式DNN按需加速分区推理方案的边-云协同分区推理架构（EDDI）。该框架引入了两个新颖的组件:（1）评估器,估计运行时影响因子并辅助优化器构建合适的DAG;（2）优化器,在运行时选择最佳提前退出点和最佳DNN分区方案进行分区推理,在满足用户定义的延迟要求的情况下提高服务质量;其次,本文详细证明了传统的DAG式DNN推理分区方案无法确保在实际环境条件下得到最佳分区推理方案;最后,本文提出了一种基于图式最小割算法的DDPI方案实现最佳分区推理,有效地提升模型推理精度。为了解决DNN按需加速推理分区方案的在线决策时间开销较大的问题,本文进一步提出了一种自适应提前退出选择方案（AES）。首先,本文基于EDDI架构引入了预测分类器,设计了支持自适应提前退出选择方案的协同推理架构;其次,基于Edge X的开源边缘计算框架提出了预测分类器的运行时环境参数管理策略;最后,本文提出了基于预测的自适应选择提前退出方案,实现了自适应预测最佳提前退出点,有效地提高在线评估DNN推理的算法效率。最后,本文采用Cifar数据集对所提出的两种方案进行了可行性和性能的评估实验。实验结果表明与基线方案和最先进的方案相比,DDPI方案在模型推理精度、推理延迟和整体吞吐量具有优势;AES方案在算法决策时间性能上具有显著的提升。