基于神经常微分方程的时序数据分析与预测

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:dukewyh
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
时间序列数据广泛存在于现实生活中,特别是在智能化城市,智能化工业以及大数据信息时代的大趋势下,大量的时间序列数据可以被轻松获取到,而如何将这些时序数据在现实场景中(如城市交通的监管与预测,工业中的数据分析与智能调度)加以有效利用一直是人们关注的重点。本文从城市交通流量和工业水电流量两种不同的时序数据出发,研究如何利用深度学习的方法对这两种时序数据进行有效分析与预测。现有的时间序列预测方法主要还是基于深度神经网络,如残差网络、卷积神经网络和循环神经网络。尽管这些现有方法有着许多优点,但都存在模型复杂度较高且内存参数暴力使用情况,无法在数据缺失时表现出强鲁棒性,此外,现有方法也无法在预测精度与效率之间提供有效折衷,为决策者提供高度的灵活性。在本文中,我们提出了TODE和FODE这两种方法来解决城市交通流量的分析预测问题和超分问题,提出Deep Hydro方法来对水电流量数据进行分析与预测,其主要内容分别如下:1、TODE首次将神经常微分方程(NODE)应用到城市交通流量的预测问题中,引入了一种离散化然后优化的方法来改善和平衡预测精度和计算效率,该连续动态系统能更好的应对部分数据缺失的情况,也能对因素进行更复杂的融合学习。2、FODE在TODE的基础上,改进原ODE存在的数值计算不稳定和梯度计算不准确的问题,在保证内存开销不变的情况下提高模型性能。改进的增强流量归一化流方法额外地考虑了外界因素的分布概率,加强了对城市交通流量的约束性。3、Deep Hydro通过将ODE与RNN结合提出一种新颖的条件潜伏循环神经网络,并引入连续归一化流(CNF)对潜在变量的分布进行连续变化,来捕获多元时序数据中的不确定性信息从而提高预测性能。最后,本文在城市交通流量和水电流量两种不同的数据集上对所提出的方法进行验证。实验证明,我们提出的基于神经常微分方程的时序模型表现均优于其他方法,并且所消耗的内存以及参数的使用量是最少的,这充分地体现出本文提出的模型的高效性。此外,本文提出的Deep Hydro模型目前已部署在国家电网集团的应用端上,已初步取得了一些成效。
其他文献
电子对抗与感知一体化系统的核心问题是抑制己方大功率干扰信号对电磁感知任务的干扰。通过空域、射频域、数字域三层干扰抑制方法,将己方自干扰抑制到接收机底噪附近,接收机可以正常侦收环境信号,实现对战场复杂电磁环境的实时、准确频谱感知,达到电子对抗与感知一体化健康工作的目的。本文针对电磁对抗与感知一体化系统中的干扰抑制需求,重点研究了射频域自干扰抑制方法,设计了一种数字辅助的射频域自干扰抑制方案,并在AR
图像抖动(Jittering)是多媒体数据压缩和无线视频传输领域中常见的现象,当同步信号被存储介质严重破坏或在无线视频传输过程中受到电磁干扰时,通常会发生抖动。简单说,图像抖动是由像素位置发生偏移而造成的一种失真现象,当采样点的位置发生错位时,图像本身会出现扭曲、边缘不协调等现象。图像去抖动问题是图像处理中一个重要的研究内容,因为抖动会直接影响图像的原始信息,在进行图像分析、识别等一系列工作之前,
一对多的通信中,多播相比单播具有时延小和系统吞吐量大的优势。但是,应用传统反馈重传机制实现可靠多播时易引起反馈风暴。喷泉码作为一类纠删码应用于可靠多播中可有效缓解反馈风暴问题。因此研究复杂度低且具有无码率性的喷泉码以及应用于多播协议的途径具有重要意义。本文首先分析和比较现有各类纠删码方法。接着,设计多播传输实验方案,进而对比分析喷泉码和RS码应用于可靠多播时在吞吐率等方面的性能,以作为设计基于喷泉
如何确保数据的安全性是当今社会的研究热点,加密原语被认为是解决该问题的有效方法。然而,加密后的密文面临着数据可用性降低的挑战。传统的可搜索加密方案能够搜索加密后的密文,但是该项技术仅能够对相同公钥加密下的密文进行操作。针对该局限性问题,支持等式测试的加密概念被引入,该机制可以在不解密的情况下对来自相同或者不同公钥加密下的密文进行匹配操作。虽然加密技术可以保证数据的完整性和机密性,但是不能保证数据的
荧光关联谱方法是一项近年来发展很快的实验分析方法,它通过分析微小探测区域(一般小于1μm3)内少量发光粒子由于布朗运动产生的荧光涨落信号,得到粒子扩散系数和溶液浓度等物理参数值,进而获得粒子的结构和状态、所处的微观环境以及微观相互作用等信息。由于测量具有很高的灵敏度、测量时不破坏研究体系的平衡状态以及可以进行实时监测等优点,荧光关联谱技术在化学、医学和生命科学等领域逐渐显现出它广阔的应用前景。本论
太赫兹频段是介于可见光和微波之间的无线波段,具有通信和光学检测两方面的应用潜力,其高达数十GHz的可用带宽能应用于高速通信上。人们日益增长的物质文化需求对无线通信传输速率提出了更高的要求。在此背景下,太赫兹通信已经成为无线通信行业的研究热点。本文设计了一种零中频收发机物理层系统,论文主要涉及以下工作:第一,分析对比了典型的太赫兹变频调制方案。经过对比分析,零中频收发机凭借小体积、低成本等特点,被采
Endostatin (血管内皮抑素) 是一个20 kDa 的蛋白质,能有效阻止肿瘤血管生成,动物模型试验也表明endostatin能有效地抑制小鼠多种移植肿瘤生长,且无任何毒性。但是目前对于endostatin的分子机理,特别是其最基本的理化性质研究还很少。本论文主要针对以下三个方面进行研究。论文的第一部分工作是采用圆二色谱,荧光和核磁共振等物理手段来研究endostatin的酸变性过程。主要成
本文将主要针对如下三类实际的具有代表意义的离散事件动态系统, 从评价和寻优两个环节出发, 分析探讨问题的相关难点, 并给出切实有效的优化算法. 第一, 针对一类制造系统的资源优化问题, 该问题被模型化为具有fork-join结构的排队网络. 通过分析其均值型评价环节的难点, 我们推广了序优化方法, 即从单目标意义到多目标意义, 并由此进一步给出两阶段的DEDS多目标优化算法框架. 然后分析寻优环节
对于推荐系统来说,数据稀疏和用户冷启动问题是重要的挑战之一。面对数据稀疏问题,常见的解决方案是使用跨领域推荐方法,从目标领域之外的其他辅助领域收集数据提升目标领域数据的密度,但假如某些用户在目标领域有着丰富的交互数据,而在辅助领域数据匮乏,这种传统的跨领域推荐方法便不能提升辅助领域数据的密度。针对这个问题,在基于领域间重叠用户场景下,本论文提出了基于多任务学习技术之“十字绣”网络的多领域推荐方法,
本文从复杂性哲学的视角,就国内外对路径依赖概念和思想的有关研究文献进行大量调研的基础上,把路径依赖概念置于复杂性科学运动发展的大背景中进行考察,比较系统地论述了路径依赖概念产生的理论背景和社会经济背景;从科学哲学的角度,对路径依赖和其他复杂性术语:耗散结构、混沌、分岔、突变、模拟退火、复杂适应系统、适切性景观、自组织临界性、自组织进行了初步的辨析。在第三章,对路径依赖进行了案例分析。 在案例分析之