亲爱的研友该休息了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!身体可是革命的本钱,早点休息,好梦!

MEAformer: An all-MLP transformer with temporal external attention for long-term time series forecasting

计算机科学 自回归模型 推论 编码器 变压器 人工智能 二次方程 算法 模式识别(心理学) 机器学习 数学 计量经济学 电压 物理 操作系统 量子力学 几何学
作者
Siyuan Huang,Yepeng Liu,Haoyi Cui,Fan Zhang,Jinjiang Li,Xiaofeng Zhang,Mingli Zhang,Caiming Zhang
出处
期刊:Information Sciences [Elsevier BV]
卷期号:669: 120605-120605 被引量:38
标识
DOI:10.1016/j.ins.2024.120605
摘要

Transformer-based models have significantly improved performance in Long-term Time Series Forecasting (LTSF). These models employ various self-attention mechanisms to discover long-term dependencies. However, the computational efficiency is hampered by the inherent permutation invariance of self-attention, and they primarily focus on relationships within the sequence while neglecting potential relationships between different sample sequences. This limits the ability and flexibility of self-attention in LTSF. In addition, the Transformer's decoder outputs sequences in an autoregressive manner, leading to slow inference speed and error accumulation effects, especially for LTSF. Regarding the issues with Transformer-based models for LTSF, we propose a model better suited for LTSF, named MEAformer. MEAformer adopts a fully connected Multi-Layer Perceptron (MLP) architecture consisting of two types of layers: encoder layers and MLP layers. Unlike most encoder layers in Transformer-based models, the MEAformer replaces self-attention with temporal external attention. Temporal external attention explores potential relationships between different sample sequences in the training dataset. Compared to the quadratic complexity of self-attention mechanisms, temporal external attention has efficient linear complexity. Encoder layers can be stacked multiple times to capture time-dependent relationships at different scales. Furthermore, the MEAformer replaces the intricate decoder layers of the original model with more straightforward MLP layers. This modification aims to enhance inference speed and facilitate single-pass sequence generation, effectively mitigating the problem of error accumulation effects. Regarding long-term forecasting, MEAformer achieves state-of-the-art performance on six benchmark datasets, covering five real-world domains: energy, transportation, economy, weather, and disease. Code is available at: https://github.com/huangsiyuan924/MEAformer.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
复杂的雁芙完成签到,获得积分10
2秒前
5秒前
5秒前
soilman发布了新的文献求助10
9秒前
时之王者发布了新的文献求助10
11秒前
TwentyNine完成签到 ,获得积分10
12秒前
是小妤呀完成签到 ,获得积分10
15秒前
贪玩的夏真完成签到,获得积分10
16秒前
青云完成签到,获得积分10
18秒前
20秒前
独特的紫雪完成签到,获得积分10
25秒前
26秒前
YYL完成签到 ,获得积分10
45秒前
47秒前
坐看云起时完成签到 ,获得积分10
51秒前
英姑的应助被soilman采纳,获得10
52秒前
yuan完成签到 ,获得积分10
55秒前
alloe1发布了新的文献求助200
55秒前
Maestro_S的应助被时之王者采纳,获得10
1分钟前
1分钟前
满意的苑博完成签到,获得积分10
1分钟前
唐礼祥完成签到,获得积分20
1分钟前
soilman完成签到,获得积分10
1分钟前
如意涵雁完成签到,获得积分10
1分钟前
soilman发布了新的文献求助10
1分钟前
chuckranha完成签到,获得积分10
1分钟前
1分钟前
1分钟前
白芷完成签到 ,获得积分10
1分钟前
ubless607的应助被科研通管家采纳,获得20
1分钟前
奔跑的应助被科研通管家采纳,获得30
1分钟前
上官若男的应助被科研通管家采纳,获得10
1分钟前
CAOHOU的应助被科研通管家采纳,获得10
1分钟前
liu完成签到 ,获得积分10
1分钟前
清绘完成签到 ,获得积分10
1分钟前
橙子完成签到,获得积分10
1分钟前
SciGPT的应助被April采纳,获得10
1分钟前
甜甜的紫菜完成签到 ,获得积分0
1分钟前
1分钟前
甜甜纸飞机完成签到 ,获得积分10
1分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8185058
求助须知:如何正确求助?哪些是违规求助? 9573980
关于积分的说明 21833916
捐赠科研通 7782502
什么是DOI,文献DOI怎么找? 3434480
关于科研通互助平台的介绍 2558689
邀请新用户注册赠送积分活动 2481178