Self-Supervised Contrastive Learning for Long-term Forecasting

作者
Junwoo Park,Daehoon Gwak,Jaegul Choo,Edward Choi
出处
期刊:Cornell University - arXiv [Cornell University]
被引量:11
标识
DOI:10.48550/arxiv.2402.02023
摘要

Long-term forecasting presents unique challenges due to the time and memory complexity of handling long sequences. Existing methods, which rely on sliding windows to process long sequences, struggle to effectively capture long-term variations that are partially caught within the short window (i.e., outer-window variations). In this paper, we introduce a novel approach that overcomes this limitation by employing contrastive learning and enhanced decomposition architecture, specifically designed to focus on long-term variations. To this end, our contrastive loss incorporates global autocorrelation held in the whole time series, which facilitates the construction of positive and negative pairs in a self-supervised manner. When combined with our decomposition networks, our contrastive learning significantly improves long-term forecasting performance. Extensive experiments demonstrate that our approach outperforms 14 baseline models in multiple experiments over nine long-term benchmarks, especially in challenging scenarios that require a significantly long output for forecasting. Source code is available at https://github.com/junwoopark92/Self-Supervised-Contrastive-Forecsating.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
Lingeek完成签到,获得积分10
刚刚
霸气芫完成签到 ,获得积分10
4秒前
4秒前
betty2009完成签到,获得积分10
5秒前
饱满千兰完成签到,获得积分10
6秒前
科研通AI6.3的应助被u雨采纳,获得10
10秒前
王kk完成签到 ,获得积分10
11秒前
哈哈哈完成签到 ,获得积分10
13秒前
邓代容完成签到 ,获得积分0
18秒前
奋斗诗云完成签到 ,获得积分10
20秒前
irisyan完成签到 ,获得积分10
22秒前
白云完成签到 ,获得积分10
23秒前
难过的研究牲完成签到 ,获得积分10
24秒前
大耳朵图图完成签到 ,获得积分10
25秒前
孤狼完成签到 ,获得积分10
29秒前
子良完成签到 ,获得积分10
29秒前
xinxin完成签到 ,获得积分10
30秒前
黑白完成签到 ,获得积分10
30秒前
一诺相许完成签到,获得积分10
32秒前
领导范儿的应助被文文采纳,获得10
34秒前
xh完成签到,获得积分10
35秒前
QwQ完成签到 ,获得积分10
36秒前
高兴的灰狼完成签到,获得积分20
36秒前
科研猫完成签到,获得积分10
37秒前
nanting完成签到 ,获得积分10
40秒前
momo完成签到,获得积分10
43秒前
求知小生完成签到 ,获得积分10
45秒前
Ava完成签到,获得积分10
46秒前
47秒前
冷傲的婷冉完成签到,获得积分10
49秒前
Ayun完成签到,获得积分10
49秒前
50秒前
Ayun发布了新的文献求助10
53秒前
爱听歌的香萱完成签到,获得积分10
53秒前
翰飞寰宇完成签到 ,获得积分10
55秒前
wangji_2017发布了新的文献求助10
56秒前
甘sir完成签到 ,获得积分0
59秒前
1分钟前
何一非完成签到,获得积分10
1分钟前
阳阳完成签到 ,获得积分10
1分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
John McDowells Bildungstheorie 800
Social Psychology in the Real World 600
八旗制度の研究 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8180068
求助须知:如何正确求助?哪些是违规求助? 9570224
关于积分的说明 21808724
捐赠科研通 7776054
什么是DOI,文献DOI怎么找? 3433261
关于科研通互助平台的介绍 2557425
邀请新用户注册赠送积分活动 2479012