亲爱的研友该休息了!由于当前在线用户较少,发布求助请尽量完整地填写文献信息,科研通机器人24小时在线,伴您度过漫漫科研夜!身体可是革命的本钱,早点休息,好梦!

Entity-Guided Multi-Task Learning for Infrared and Visible Image Fusion

计算机科学 人工智能 特征(语言学) 钥匙(锁) 图像融合 突出 代表(政治) 噪音(视频) 图像(数学) 语义学(计算机科学) 特征提取 模式识别(心理学) 判决 特征学习 情报检索 计算机视觉 上下文图像分类 任务(项目管理) 融合 语义特征 语义鸿沟 语义计算 质量(理念) 深度学习 可视化 利用 传感器融合 机器学习 学习迁移 语义分析(机器学习) 自然语言处理
作者
Wenyu Shao,Hongbo Liu,Yunchuan Ma,Ruili Wang
出处
期刊:IEEE Transactions on Multimedia [Institute of Electrical and Electronics Engineers]
卷期号:28: 5548-5560
标识
DOI:10.1109/tmm.2026.3668472
摘要

Existing text-driven infrared and visible image fusion approaches often rely on textual information at the sentence level, which can lead to semantic noise from redundant text and fail to fully exploit the deeper semantic value of textual information. To address these issues, we propose a novel fusion approach named Entity-Guided Multi-Task learning for infrared and visible image fusion (EGMT). Our approach includes three key innovative components: (i) A principled method is proposed to extract entity-level textual information from image captions generated by large vision-language models, eliminating semantic noise from raw text while preserving critical semantic information; (ii) A parallel multi-task learning architecture is constructed, which integrates image fusion with a multi-label classification task. By using entities as pseudo-labels, the multi label classification task provides semantic supervision, enabling the model to achieve a deeper understanding of image content and significantly improving the quality and semantic density of the fused image; (iii) An entity-guided cross-modal interactive module is also developed to facilitate the fine-grained interaction between visual and entity-level textual features, which enhances feature representation by capturing cross-modal dependencies at both inter-visual and visual-entity levels. To promote the wide application of the entity-guided image fusion framework, we release the entity-annotated version of four public datasets (i.e., TNO, RoadScene, M3FD, and MSRS). Extensive experiments demonstrate that EGMT achieves superior performance in preserving salient targets, texture details, and semantic consistency, compared to the state-of-the-art methods. The code and dataset will be publicly available at https://github.com/wyshao-01/EGMT.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
迷人悒发布了新的文献求助10
刚刚
迷人悒发布了新的文献求助10
刚刚
迷人悒发布了新的文献求助10
1秒前
迷人悒发布了新的文献求助10
1秒前
迷人悒发布了新的文献求助10
1秒前
Jasper的应助被EricSai采纳,获得10
1秒前
大个的应助被Tuffyffy采纳,获得10
2秒前
molihuakai的应助被karstbing采纳,获得50
2秒前
酷波er的应助被LLL采纳,获得10
3秒前
3秒前
5秒前
顾矜的应助被搞怪巨人采纳,获得10
7秒前
hhh发布了新的文献求助10
7秒前
Jerry发布了新的文献求助10
8秒前
pluvia完成签到,获得积分10
8秒前
平淡的翅膀完成签到 ,获得积分10
10秒前
所所的应助被asr采纳,获得10
10秒前
萧雨墨发布了新的文献求助10
13秒前
完美世界的应助被Jerry采纳,获得10
13秒前
13秒前
一葵完成签到 ,获得积分10
14秒前
单薄的誉完成签到,获得积分10
14秒前
CipherSage的应助被花海采纳,获得10
15秒前
16秒前
盼月来完成签到 ,获得积分10
16秒前
uri完成签到 ,获得积分10
16秒前
wwwww完成签到,获得积分10
17秒前
18秒前
白芷完成签到 ,获得积分10
19秒前
20秒前
Log发布了新的文献求助10
20秒前
21秒前
huahuahua发布了新的文献求助10
21秒前
asr发布了新的文献求助10
22秒前
赟糖完成签到 ,获得积分10
23秒前
25秒前
欢呼的馒头完成签到,获得积分10
26秒前
zkygmu发布了新的文献求助10
26秒前
29秒前
阴天完成签到 ,获得积分10
30秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 2000
Sex, Aging, and Death in a Medieval Medical Compendium: Trinity College Cambridge MS R.14.52, Its Texts, Language, and Scribe 500
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
基于界面调控的高效湿气发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8190026
求助须知:如何正确求助?哪些是违规求助? 9577160
关于积分的说明 21851766
捐赠科研通 7788109
什么是DOI,文献DOI怎么找? 3435873
关于科研通互助平台的介绍 2559910
邀请新用户注册赠送积分活动 2482761