亲爱的研友该休息了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!身体可是革命的本钱,早点休息,好梦!

MEAformer: An all-MLP transformer with temporal external attention for long-term time series forecasting

计算机科学 自回归模型 推论 编码器 变压器 人工智能 二次方程 算法 模式识别(心理学) 机器学习 数学 计量经济学 电压 物理 操作系统 量子力学 几何学
作者
Siyuan Huang,Yepeng Liu,Haoyi Cui,Fan Zhang,Jinjiang Li,Xiaofeng Zhang,Mingli Zhang,Caiming Zhang
出处
期刊:Information Sciences [Elsevier BV]
卷期号:669: 120605-120605 被引量:38
标识
DOI:10.1016/j.ins.2024.120605
摘要

Transformer-based models have significantly improved performance in Long-term Time Series Forecasting (LTSF). These models employ various self-attention mechanisms to discover long-term dependencies. However, the computational efficiency is hampered by the inherent permutation invariance of self-attention, and they primarily focus on relationships within the sequence while neglecting potential relationships between different sample sequences. This limits the ability and flexibility of self-attention in LTSF. In addition, the Transformer's decoder outputs sequences in an autoregressive manner, leading to slow inference speed and error accumulation effects, especially for LTSF. Regarding the issues with Transformer-based models for LTSF, we propose a model better suited for LTSF, named MEAformer. MEAformer adopts a fully connected Multi-Layer Perceptron (MLP) architecture consisting of two types of layers: encoder layers and MLP layers. Unlike most encoder layers in Transformer-based models, the MEAformer replaces self-attention with temporal external attention. Temporal external attention explores potential relationships between different sample sequences in the training dataset. Compared to the quadratic complexity of self-attention mechanisms, temporal external attention has efficient linear complexity. Encoder layers can be stacked multiple times to capture time-dependent relationships at different scales. Furthermore, the MEAformer replaces the intricate decoder layers of the original model with more straightforward MLP layers. This modification aims to enhance inference speed and facilitate single-pass sequence generation, effectively mitigating the problem of error accumulation effects. Regarding long-term forecasting, MEAformer achieves state-of-the-art performance on six benchmark datasets, covering five real-world domains: energy, transportation, economy, weather, and disease. Code is available at: https://github.com/huangsiyuan924/MEAformer.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
liu完成签到 ,获得积分10
7秒前
清绘完成签到 ,获得积分10
7秒前
橙子完成签到,获得积分10
7秒前
SciGPT的应助被April采纳,获得10
8秒前
甜甜的紫菜完成签到 ,获得积分0
16秒前
17秒前
甜甜纸飞机完成签到 ,获得积分10
20秒前
April发布了新的文献求助10
22秒前
搞怪的棉花糖完成签到,获得积分10
29秒前
31秒前
April完成签到,获得积分20
31秒前
聪慧天真完成签到,获得积分10
32秒前
WMR发布了新的文献求助10
37秒前
38秒前
40秒前
43秒前
43秒前
arca发布了新的文献求助10
48秒前
nav完成签到 ,获得积分10
50秒前
俏皮的以莲完成签到,获得积分10
55秒前
别熬夜完成签到 ,获得积分10
1分钟前
lanrui完成签到 ,获得积分10
1分钟前
arca完成签到,获得积分10
1分钟前
April关注了科研通微信公众号
1分钟前
1分钟前
mai发布了新的文献求助10
1分钟前
1分钟前
1分钟前
细腻的傲安完成签到,获得积分10
1分钟前
周开心发布了新的文献求助10
1分钟前
1分钟前
周开心完成签到,获得积分10
1分钟前
炙热的无血完成签到,获得积分10
1分钟前
Jasper的应助被科研通管家采纳,获得30
2分钟前
Maestro_S的应助被科研通管家采纳,获得10
2分钟前
小二郎的应助被科研通管家采纳,获得10
2分钟前
干净的醉蝶完成签到,获得积分10
2分钟前
2分钟前
凡凡发布了新的文献求助10
2分钟前
2分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8185058
求助须知:如何正确求助?哪些是违规求助? 9573980
关于积分的说明 21833916
捐赠科研通 7782502
什么是DOI,文献DOI怎么找? 3434480
关于科研通互助平台的介绍 2558689
邀请新用户注册赠送积分活动 2481178