Dynamic temporal modeling and distribution-calibrated fusion for multimodal sentiment analysis

计算机科学 人工智能 情绪分析 融合 自然语言处理 模式识别(心理学) 机器学习 传感器融合 数据挖掘 信息融合 多模态
作者
Chenyue Li,Zhonghao Xi,Bengong Yu,Xuefeng Yu,Haoyu Wang,Rui Dong,Shuping Zhao,Shanlin Yang
出处
期刊:Information Sciences [Elsevier BV]
卷期号:762: 124219-124219
标识
DOI:10.1016/j.ins.2026.124219
摘要

Existing multimodal sentiment analysis (MSA) methods still lack dynamic modeling of unstable emotional information. Emotional expressions in audio and visual modalities often exhibit different temporal rhythms, while most existing recurrent state update mechanisms propagate hidden states at fixed temporal progression scales. In addition, some cross-modal associations merely reflect statistical co-occurrence patterns, and such incidental correlations do not always correspond to genuine emotional dependencies. Moreover, the reliability and contribution of each modality may dynamically vary across real-world scenarios. To address these issues, this paper proposes a multimodal sentiment analysis framework based on dynamic temporal modeling and distribution-calibrated fusion. Specifically, adaptive temporal modeling is performed on audio and visual sequences through dynamic temporal granularity selection, enabling the model to capture both short-term emotional fluctuations and long-range emotional dependencies while estimating temporal confidence. Furthermore, Gaussian distribution modeling and perturbation consistency constraints are introduced to characterize uncertainty in modality representations, thereby preventing over-reliance on unreliable associations during fusion. Temporal confidence and distributional uncertainty are further combined into a unified modality confidence, which dynamically regulates cross-modal fusion and representation alignment to improve semantic consistency of fused representations. Experimental results on the CMU-MOSI, CMU-MOSEI, and CH-SIMS datasets demonstrate the effectiveness of the proposed framework.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
L10086发布了新的文献求助10
刚刚
科研66发布了新的文献求助10
1秒前
wanci的应助被chen采纳,获得10
1秒前
ma化疼没木完成签到,获得积分10
1秒前
DONG完成签到,获得积分10
1秒前
kira完成签到,获得积分10
1秒前
1秒前
许123发布了新的文献求助10
2秒前
华仔的应助被di采纳,获得10
2秒前
vc发布了新的文献求助10
2秒前
2秒前
2秒前
机智的白卉的应助被初景采纳,获得10
2秒前
完美世界的应助被king采纳,获得10
2秒前
芝麻芝麻开门完成签到,获得积分10
2秒前
LUXURY发布了新的文献求助10
3秒前
安然发布了新的文献求助10
3秒前
duanjin13完成签到,获得积分10
3秒前
4秒前
4秒前
皮在痒发布了新的文献求助10
4秒前
4秒前
4秒前
5秒前
小呀小熊二完成签到,获得积分10
5秒前
5秒前
zz完成签到,获得积分10
6秒前
0128lun发布了新的文献求助10
6秒前
ZYC完成签到,获得积分10
6秒前
Orange的应助被追寻傲玉采纳,获得10
6秒前
6秒前
zmy发布了新的文献求助10
7秒前
7秒前
8秒前
8秒前
yiling完成签到,获得积分10
9秒前
希望天下0贩的0的应助被kakaxi采纳,获得60
9秒前
ruby30发布了新的文献求助10
9秒前
英俊的铭的应助被NING采纳,获得10
10秒前
10秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Encyclopedia of Modern Artificial Intelligence 1000
Особенности технологий и методов информационно-психологических войн СССР с Великобританией и США в период 1939-1953 гг 1000
Das Matthäusevangelium: Kapitel 1:1–17 1000
IRTSD: Open-Source Data and Toolset for Electromagnetic Transient Analysis of Disturbances and IBR Control Malfunctions in Transmission Systems 1000
Challenging Attachment Theory 600
Analyses de reconnaissances de dettes passées devant les échevins d'Ypres (1249-1291) 600
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8140115
求助须知:如何正确求助?哪些是违规求助? 9540529
关于积分的说明 21640228
捐赠科研通 7724211
什么是DOI,文献DOI怎么找? 3420983
关于科研通互助平台的介绍 2546180
邀请新用户注册赠送积分活动 2463052