Press "Enter" to skip to content

谷歌AI推出了TSMixer:一种先进的多变量模型,用于利用线性模型特性进行高性能基准预测的长期预测

谷歌AI推出了TSMixer:一种先进的多变量模型,用于利用线性模型特性进行高性能基准预测的长期预测 四海 第1张谷歌AI推出了TSMixer:一种先进的多变量模型,用于利用线性模型特性进行高性能基准预测的长期预测 四海 第2张

近年来,准确的时间序列预测在众多实际应用中变得至关重要。无论是预测需求趋势还是预测疫情的传播,能够进行精确预测的能力都是无价之宝。在多变量时间序列预测方面,出现了两类模型:单变量和多变量模型。单变量模型关注于系列间的相互作用,在单变量时间序列中捕捉趋势和季节模式。然而,最近的研究发现,尽管先进的多变量模型有很大潜力,但在长期预测基准测试中往往不如简单的单变量线性模型。这引发了关于交叉变量信息的有效性以及多变量模型在这种信息不那么有益时是否仍能保持自己的重要性的关键问题。

近年来,基于Transformer的架构在时间序列预测领域崭露头角,得益于它们在序列任务中的卓越性能。然而,它们在长期预测基准测试中的表现引发了对它们与更简单的线性模型相比的有效性的质疑。鉴于此,谷歌AI团队引入了一个开创性的解决方案:时间序列混合器(TSMixer)。经过对单变量线性模型优势的细致分析之后,TSMixer代表了一个重大的飞跃。它充分利用了线性模型的优势,同时高效地整合了交叉变量信息,使其在长期预测基准测试中与最佳单变量模型表现相当。

线性模型与Transformer之间的一个关键区别在于它们如何捕捉时间模式。线性模型使用固定的、时间步依赖的权重来捕捉静态时间模式,使其在学习此类模式方面异常有效。相比之下,Transformer依靠具有动态、数据依赖权重的注意力机制,捕捉动态时间模式并实现交叉变量信息的处理。TSMixer架构结合了这两种方法,确保它保留了时间线性模型的能力,同时利用了交叉变量信息的强大力量。

数据不会说谎,在TSMixer的案例中,结果表明一切。在对包括电力、交通和天气在内的七个热门长期预测数据集进行评估时,TSMixer在均方误差(MSE)方面相比其他多变量和单变量模型展现出显著改进。这表明,当设计精确且有见地时,多变量模型可以与其单变量对应物表现相当。

总之,TSMixer代表了多变量时间序列预测领域的一个关键时刻。通过巧妙地结合线性模型和基于Transformer的架构的优势,它不仅胜过其他多变量模型,还与最先进的单变量模型齐肩并进。随着时间序列预测领域的不断发展,TSMixer为更强大、更有效的模型铺平了道路,这些模型可以彻底改变各个领域的应用。

Leave a Reply

Your email address will not be published. Required fields are marked *