您的位置首页 >人工智能 >

TPAMI-26 时序预测综述用 "自相关" 一个视角读懂深度学习时序预测十年进展

这篇被称为 "最火、最全" 的时序预测综述,是发表在 IEEE TPAMI 2026 的《Deep Time-Series Forecasting in 10 Years: A Survey》,它的核心做法不是按年份罗列模型,而是抓住 "自相关(autocorrelation)" 这一个统一视角,把过去十年深度学习时序预测的方法分成两条线讲清楚:一条是骨干网络(backbone)怎么建模历史序列里的自相关,另一条是损失函数怎么建模标签序列里的自相关。原因在于,以往综述大多只讲网络结构、很少系统讲损失函数,而且只讲 "设计了什么",没讲 "到底在解决什么问题";步骤上就是先立出自相关这个统一框架,再分别梳理骨干架构流派和四类损失函数,最后指出未来方向。结论就是:这篇综述的价值不在于 "又多收了几百篇论文",而在于给了一张能同时看懂架构演进和损失函数演进的地图,新人能按图索骥,老研究者也能重新对齐问题本质。

一、论文基本信息

项目内容
英文标题Deep Time-Series Forecasting in 10 Years: A Survey
发表渠道IEEE Transactions on Pattern Analysis and Machine Intelligence(TPAMI)2026,DOI: 10.1109/TPAMI.2026.3742172
预印本arXiv: 2603.19899(v2 更新于 2026 年 10 月)
作者团队Hao Wang、Licheng Pan、Qingsong Wen(温庆松)、Jialin Yu、Zhichao Chen、Chunyuan Zheng、Xiaoxi Li、Zhouchen Lin(林宙辰)、Philip Torr、Yan Liu 等
配套资源GitHub:Master-PLC/Awesome-TSF-Papers(论文清单持续更新)

需要说明:网传 "最火、最全" 是中文传播标题的形容,论文本身是一份学术综述,卖点是统一视角,不是论文数量排行榜。

二、核心视角:为什么拿 "自相关" 当钥匙

  • 自相关是时间序列的根本属性:每个观测值都依赖它前面的观测值,比如日气温和前一天相关,这也是时序区别于普通表格数据的地方。
  • 经典统计方法(ARIMA、VAR)很早就显式建模自相关;深度学习时代,自相关同时藏在输入(历史)和标签(未来)两段序列里,于是引出两个核心挑战:
  • 骨干架构怎么设计,才能建模历史序列中的自相关;
  • 损失函数怎么设计,才能建模标签序列中的自相关。
  • 常见模式都能用自相关解释:趋势(持续同向)、周期 / 季节性(固定间隔峰值)、循环(不规则起伏),用自相关函数(ACF)可量化不同滞后阶的线性相关。

三、综述分类法:两条分支一次讲全

分支一:骨干架构(建模历史自相关)

大类代表方向典型思路 / 代表模型
非 Transformer 模型RNN/LSTM/GRU、深度 SSM(Mamba 系)、CNN(大卷积核)、DNN / 线性层、深度分解模型LSTM 门控记忆、HiPPO/LMU 记忆状态、Mamba 并行扫描、DLinear/RLinear、TimeMixer/MoLE
Transformer 类标准自注意力、改进注意力用成对相似度建模时间依赖;补时间上下文、改造注意力机制
即插即用层标准化层、分解层、分词(tokenization)层RevIN 类归一化、趋势 - 季节分解、Patch 分词,可搭在不同骨干上

分支二:损失函数(建模标签自相关,四类)

类别核心思路代表方法
似然估计(Likelihood Estimation)用负对数似然,直接学条件协方差矩阵或把标签变换到不相关潜空间AutoMSE、FreDF、Time-o1、DBLoss、TDAlign、QDF
形状对齐(Shape Alignment)不点对点比误差,而是对齐整条序列形状DTW、SoftDTW、Dilate、GromovDTW
分布平衡(Distribution Balancing)让预测分布与真实分布匹配AST、SDGCN、AttnWGAIN、PSLoss、DistDF
条件生成(Conditional Generation)把预测重构成条件生成,隐式建模标签依赖TimeGrad、CSDI、D3M、AutoTimes、Timer、MoLA

关键点:最常用的 MSE 默认标签各元素条件独立,忽略了标签自相关,论文把这个偏差形式化为 "自相关偏差(autocorrelation bias)",这正是各类新损失函数要补的窟窿。

四、十年演进脉络一览

阶段主打方法解决的自相关问题
循环网络时代RNN/LSTM/GRU、DeepAR用门控记忆状态捕捉长程依赖,但记忆容量有上限
Transformer 时代自注意力及各类改进版用成对相似度全局建模时间依赖,补时间上下文
简单模型复兴线性层、MLP、分解 + 频域方法要么简化自相关(分解、去周期、频域建模),要么增强骨干容量
状态空间模型时代Mamba、DSTMamba、MixMamba并行扫描 + 结构化记忆,兼顾长程建模与效率
生成式时代扩散模型(TimeGrad/CSDI)、自回归生成、LLM / 基础模型把预测当条件生成,隐式刻画标签序列内部依赖

五、综述指出的未来方向

  • 规模化骨干:时序预训练缺通用语料库、分词器不成熟;自相关可指导合成数据生成和分词器设计,支撑时序基础模型。
  • 先进生成模型:扩散训练不稳定、自回归误差累积仍是痛点;流匹配、随机插值、Schrödinger 桥等新生成范式在时序上还待挖掘。
  • 真实世界挑战:测量噪声(去噪学习 / 损失校正)、分布漂移(域适应 / 泛化 / 测试时自适应)、不完整观测(缺值插补与直接训练)。
  • 通道依赖:把自相关建模方法迁移到多变量变量间关系建模(如 iTransformer),骨干与损失联合设计是方向。

六、综述自身的边界

  • 自相关是核心视角,但不覆盖特征工程、外生变量等全部进展;部分方法可从多个角度理解,论文刻意只讲与自相关的联系。
  • 它是一份框架性综述,不提供新模型、新基准,不能替代原始论文和实验复现。

【常见问题】

问题 1:这篇 TPAMI-26 时序预测综述的 "一个视角" 具体指什么?

回答 1:指的是 "自相关建模" 这一统一视角:综述把深度学习时序预测十年进展拆成骨干架构建模历史自相关、损失函数建模标签自相关两条线,用同一个自相关框架串起所有方法,而不是按年份或模型流派零散罗列。

问题 2:为什么说现有时序预测综述普遍忽略了损失函数?

回答 2:以往综述主要聚焦骨干网络结构,对损失函数讨论有限;这篇 TPAMI 综述首次系统梳理似然估计、形状对齐、分布平衡、条件生成四类损失函数,并指出 MSE 默认标签条件独立、存在自相关偏差。

问题 3:这篇时序预测综述里,骨干架构分支是怎么分类的?

回答 3:骨干架构分为非 Transformer 模型(RNN/SSM-Mamba/ 大核 CNN / 线性与 MLP / 深度分解)、Transformer 类(标准与改进自注意力),以及标准化层、分解层、分词层等即插即用层三类。

问题 4:时序预测综述提到的 "自相关偏差" 是什么意思?

回答 4:自相关偏差指 MSE 等点对点损失假设标签各时刻条件独立,忽略了标签序列内部的前后依赖,导致损失目标与真实负对数似然存在系统性偏差;新损失函数通过协方差建模、形状对齐、分布匹配或条件生成来纠正它。

问题 5:这篇 TPAMI 十年时序预测综述配套的论文资源去哪找?

回答 5:作者在 GitHub 维护了持续更新的论文清单仓库 Master-PLC/Awesome-TSF-Papers,综述原文可在 arXiv:2603.19899 及 IEEE Xplore(DOI: 10.1109/TPAMI.2026.3742172)获取。

【参考资料】

  • [2026-10-12](Deep Time-Series Forecasting in 10 Years: A Survey)arXiv
  • [2026-10-09](Deep Time-Series Forecasting in 10 Years: A Survey)Book 学术(收录 IEEE TPAMI 2026)
  • [2026-10-06](Deep Time-Series Forecasting in 10 Years: A Survey)国家预印本平台
  • [2026-10-06](AI for Time Series 个人主页:Qingsong Wen)作者个人主页

【免责声明】

本文为学术论文科普整理,仅作学习参考,不构成任何投稿、引用或投资建议;论文版本、作者署名、分类与结论以 IEEE TPAMI 及 arXiv 官方最新发布为准,引用前请核对原文 DOI 与正式发表版本。Zhouchen Lin's Homepage

今日大家都在搜的词: