由国家信息中心、牛津大学、北京理工大学、同济大学、中国科学技术大学等机构的团队提出了一个

  但是，Transformer并不是万能的，尤其是对于时间序列预测这样的问题来说，它的结构显得有一点过于复杂。

  以iTransformer模型为例，它存在很多问题，比如对高频信号的响应较弱因此导致全频段信息利用受限、计算效率低下等，这样一些问题会大大影响模型的预测精度。

  时间序列信号往往由不同频段信号组成，为了探究现有模型能否对频域信号做准确捕捉，团队设计一个简单的模拟验证实验。

  首先，他们利用低频、中频和高频分量合成的信号作为实验数据（见图1(a)）来测试时序模型的预测性能。从图1(b)能够准确的看出，当前时序预测的先进模型iTransformer表现不佳。

  这表明，即使是由三种不同频率成分组成的简单信号，当前先进的基于Transformer的模型仍无法充分学到相对应的频谱信息。

  相比之下，在传统的信号处理（signal processing）领域，简单的频率滤波器具备许多优秀特性，例如频率选择性、信号调制和多速率处理。这些特性有望明显提升模型在时间序列预测中提取关键信息频率模式的能力。

  因此，受信号处理中滤波过程的启发，研究团队提出了一种格外的简单并且高效的学习框架—-FilterNet，用于时间序列预测任务。

  1.Plain Shaping Filter：使用最简洁的、可学习的频率滤波器，实现信号滤波与时间关系的建模。

  时间序列数据通常是在较长时间跨度内收集的，这些非平稳序列不可避免地使预测模型面临随时间变化的分布偏移。像很多时序预测模型一样，团队采用了可逆Instance Normalization，如下所示：

  时间序列预测器可以视为针对关键信号的捕捉，从某一些程度上，也可以看作在频域上进行了一次滤波过程。

  相对应的，TexFilter则通过一个可学习的神经网络来生成相应的滤波器，完成对应的滤波学习，具体为：

  频率滤波模块建模了时间序列数据中的一些主要时间依赖关系，随后他们利用前馈神经网络（Feed-Forward Network）建立这些时间依赖关系和未来τ个时刻数据的关系，最后进行预测，并对预测值进行反归一化操作。

  实验在八个时间序列预测基准数据集上进行了广泛的测试，根据结果得出，与最新的预测算法相比，FilterNet模型在不同预测场景中均表现出卓越的性能。

  其中，PaiFilter在小数据集上（变量数较小，如ETT、Exchange数据集）表现更好，而TexFilter则在大数据集上（变量数较多，关系更复杂，如Traffic、Weather数据集）表现出强有力的竞争力。

  图7是学习到的滤波器的频率响应特性的可视化图表，表明FilterNet具备全频段的信号处理能力。

  此外，如图8所示，在ETTm1数据集上针对不一样预测长度进行的可视化实验进一步证明了FilterNet的强大处理能力。

  与其他最新模型相比，FilterNet在预测未来序列变化方面展现了出色的准确性，充分证明了其卓越的性能。

  团队还在两个不同的数据集上对FilterNet进行了相应的效率分析实验，实验根据结果得出，无论数据集大小，FilterNet都表现出比Transformer方法更高的效率。

  这篇论文是首次尝试将频率滤波器直接应用于时间序列预测的工作，从信号处理的角度切入是一个很有趣的新思路。

  研究团队提出了一种简单而高效的架构——FilterNet，该架构基于他们设计的两类频率滤波器来实现预测目标。在八个基准数据集上的全面实验证明了FilterNet在效果和效率方面的优越性。

  此外，小组成员还对FilterNet及其内部滤波器进行了细致深入的模型分析，展示了其诸多优秀特性。

  他们表示，希望这项工作能够推动更多研究，将信号处理技术或滤波过程与深度学习相结合，提高时间序列建模与精确预测的效果。

  特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。

  90分钟被绝平！利物浦翻车：3-2到3-3，3分秒变1分，曼城笑纳大礼

  《编码物候》展览开幕 北京时代美术馆以科学艺术解读数字与生物交织的宇宙节律

  米家超净洗洗烘套装10kg+10kg预售：洗烘联动/超薄全嵌，4499元

  三星 Galaxy S25 系列手机欧洲 / 全球版现身 FCC，与美版存差异