亲爱的研友该休息了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!身体可是革命的本钱,早点休息,好梦!

A Multimodal Semantic Fusion Network with Cross-Modal Alignment for Multimodal Sentiment Analysis

计算机科学 情绪分析 多模态 情态动词 人工智能 多通道交互 自然语言处理 情报检索 人机交互 万维网 化学 高分子化学
作者
Shunxiang Zhang,Jiajia Liu,Yixuan Jiao,Yulei Zhang,Lei Chen,Kuan‐Ching Li
出处
期刊:ACM Transactions on Multimedia Computing, Communications, and Applications [Association for Computing Machinery]
卷期号:21 (10): 1-22 被引量:15
标识
DOI:10.1145/3744648
摘要

User-generated multimodal data can provide powerful sentiment clues for sentiment analysis task. Existing works have aligned common sentiment features in different modalities through various multimodal fusion methods. However, these works have certain limitations: (1) Previous research works only align common sentiment features between image and text, without fully exploring interactions among these features, leading to suboptimal analysis results. (2) Redundant noise in image and text increases the risk of feature misalignment during cross-modal alignment. To address these issues, we propose a Multimodal Semantic Fusion Network (MSFN) to deeply explore the semantic relationship between image and text for Multimodal Sentiment Analysis (MSA). Specifically, we align image region and text word features related to sentiment by using a gated attention mechanism. Subsequently, we employ graph convolutional networks to model the interactions among these features to obtain explicit sentiment semantics. The proposed gated attention mechanism corrects potential feature misalignment during cross-modal alignment using a gating mechanism. Moreover, considering not all image–text pairs have explicit corresponding sentiment features, we integrate implicit sentiment semantics to our model for enhancing reliability in analysis. Experimental results on benchmark datasets demonstrate the effectiveness of our proposed model compared to baselines.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
shoemaker完成签到,获得积分10
8秒前
所所的应助被azhiyuan采纳,获得10
16秒前
21秒前
Maestro_S的应助被科研通管家采纳,获得10
42秒前
球球子完成签到,获得积分10
44秒前
49秒前
小野发布了新的文献求助10
53秒前
azhiyuan完成签到 ,获得积分10
55秒前
56秒前
1分钟前
1分钟前
sugar发布了新的文献求助10
1分钟前
1分钟前
loii的应助被Jianing采纳,获得30
1分钟前
111完成签到 ,获得积分10
1分钟前
xiaoqingnian完成签到,获得积分10
1分钟前
沙漏的回忆完成签到 ,获得积分10
1分钟前
2分钟前
2分钟前
脑洞疼的应助被sugar采纳,获得10
2分钟前
爱听歌的芷烟完成签到 ,获得积分10
2分钟前
菠萝完成签到,获得积分10
2分钟前
Maestro_S的应助被科研通管家采纳,获得30
2分钟前
3分钟前
YWY发布了新的文献求助10
3分钟前
煎鱼蛋椰关注了科研通微信公众号
3分钟前
无极微光的应助被YWY采纳,获得20
3分钟前
苹果完成签到 ,获得积分10
3分钟前
煎鱼蛋椰发布了新的文献求助10
3分钟前
陈荆洲完成签到,获得积分10
4分钟前
xin完成签到,获得积分10
4分钟前
煎鱼蛋椰完成签到,获得积分10
4分钟前
4分钟前
loii举报FAN的求助涉嫌违规
5分钟前
orixero的应助被yizhiyang采纳,获得10
5分钟前
Ccccn完成签到,获得积分10
5分钟前
5分钟前
aa完成签到,获得积分10
5分钟前
庾傀斗发布了新的文献求助10
5分钟前
5分钟前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 2000
Handbook of Sport Coaching Research 1000
Orthognathic Surgery - 2 Volume Set 500
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8195167
求助须知:如何正确求助?哪些是违规求助? 9580893
关于积分的说明 21872955
捐赠科研通 7795140
什么是DOI,文献DOI怎么找? 3437950
关于科研通互助平台的介绍 2561259
邀请新用户注册赠送积分活动 2484660