亲爱的研友该休息了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!身体可是革命的本钱,早点休息,好梦!

Adaptive Multimodal Graph Integration Network for Multimodal Sentiment Analysis

情绪分析 计算机科学 多式联运 模式治疗法 人工智能 心理学 业务 营销 心理治疗师
作者
Peizhu Gong,Jin Liu,Xiliang Zhang,Xingye Li,Lai Wei,Huihua He
出处
期刊: [Institute of Electrical and Electronics Engineers]
卷期号:33: 23-36 被引量:10
标识
DOI:10.1109/taslp.2024.3507576
摘要

Most current models for analyzing multimodal sequences often disregard the imbalanced contributions of individual modal representations caused by varying information densities, as well as the inherent multi-relational interactions across distinct modalities. Consequently, a biased understanding of the intricate interplay among modalities may be fostered, limiting prediction accuracy and effectiveness. To address these critical issues, we propose the Adaptive Multimodal Graph Integration Network (AMGIN) for multimodal sentiment analysis. Concretely, AMGIN transforms multimodal sequences into graph structures and discriminatively fuses complex intra- and inter-modal correlations by incorporating multiple edge types. To accurately modulate each modality's contribution, we present the Adaptive Modality Adjustment Mechanism (AMAM), consisting of two primary components: a modality refinement loss (MR Loss) that selectively optimizes the parameters of unimodal branches through backpropagation according to the relative confidence of modalities, and a modality-confidence gated module (MCGM) that adaptively filters out noise according to the deviation of modality-specific representations from the shared semantic distribution. Furthermore, we introduce feature reconstruction loss as an additional constraint to prevent excessive modification. To verify the effectiveness of our proposed approach, extensive experiments are conducted on three benchmark datasets commonly used in sentiment analysis, namely IEMOCAP, CMU-MOSEI, and CMU-MOSI. Additionally, we consider the task of multimodal humor detection on the UR-FUNNY dataset. The experimental results demonstrate the superiority of AMGIN over the state-of-the-art methods.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
4秒前
25秒前
博博要毕业完成签到 ,获得积分10
26秒前
azhiyuan发布了新的文献求助10
28秒前
shoemaker完成签到,获得积分10
38秒前
所所的应助被azhiyuan采纳,获得10
46秒前
51秒前
Maestro_S的应助被科研通管家采纳,获得10
1分钟前
球球子完成签到,获得积分10
1分钟前
1分钟前
小野发布了新的文献求助10
1分钟前
azhiyuan完成签到 ,获得积分10
1分钟前
1分钟前
1分钟前
1分钟前
sugar发布了新的文献求助10
1分钟前
1分钟前
loii的应助被Jianing采纳,获得30
2分钟前
111完成签到 ,获得积分10
2分钟前
xiaoqingnian完成签到,获得积分10
2分钟前
沙漏的回忆完成签到 ,获得积分10
2分钟前
2分钟前
2分钟前
脑洞疼的应助被sugar采纳,获得10
2分钟前
爱听歌的芷烟完成签到 ,获得积分10
3分钟前
菠萝完成签到,获得积分10
3分钟前
Maestro_S的应助被科研通管家采纳,获得30
3分钟前
3分钟前
YWY发布了新的文献求助10
3分钟前
煎鱼蛋椰关注了科研通微信公众号
3分钟前
无极微光的应助被YWY采纳,获得20
3分钟前
苹果完成签到 ,获得积分10
4分钟前
煎鱼蛋椰发布了新的文献求助10
4分钟前
陈荆洲完成签到,获得积分10
4分钟前
xin完成签到,获得积分10
4分钟前
煎鱼蛋椰完成签到,获得积分10
4分钟前
4分钟前
loii举报FAN的求助涉嫌违规
5分钟前
orixero的应助被yizhiyang采纳,获得10
5分钟前
Ccccn完成签到,获得积分10
5分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 2000
Handbook of Sport Coaching Research 1000
Orthognathic Surgery - 2 Volume Set 500
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8195167
求助须知:如何正确求助?哪些是违规求助? 9580893
关于积分的说明 21872955
捐赠科研通 7795140
什么是DOI,文献DOI怎么找? 3437950
关于科研通互助平台的介绍 2561259
邀请新用户注册赠送积分活动 2484660