RAR: Retrieving and Ranking Augmented MLLMs for Visual Recognition

计算机科学 人工智能 Boosting(机器学习) 视觉对象识别的认知神经科学 排名(信息检索) 模式识别(心理学) 背景(考古学) 机器学习 光学(聚焦) 噪音(视频) 秩(图论) 可视化 学习排名 特征提取 目标检测 对象(语法) 自然语言处理 分类器(UML) 上下文图像分类 任务分析 上下文模型 鉴定(生物学) 活动识别 训练集 语音识别 窗口(计算) 图像检索
作者
Ziyu Liu,Zeyi Sun,Yuhang Zang,Wei Li,Pan Zhang,Xiaoyi Dong,Yuanjun Xiong,Dahua Lin,Jiaqi Wang
出处
期刊:IEEE transactions on image processing [Institute of Electrical and Electronics Engineers]
卷期号:35: 388-401 被引量:36
标识
DOI:10.1109/tip.2025.3644175
摘要

CLIP (Contrastive Language-Image Pre-training) uses contrastive learning from noise image-text pairs to excel at recognizing a wide array of candidates, yet its focus on broad associations hinders the precision in distinguishing subtle differences among fine-grained items. Conversely, Multimodal Large Language Models (MLLMs) excel at classifying fine-grained categories, thanks to their substantial knowledge from pre-training on web-level corpora. However, the performance of MLLMs declines with an increase in category numbers, primarily due to growing complexity and constraints of limited context window size. To synergize the strengths of both approaches and enhance the few-shot/zero-shot recognition abilities for datasets characterized by extensive and fine-grained vocabularies, this paper introduces RAR, a Retrieving And Ranking augmented method for MLLMs. We initially establish a multi-modal retriever based on CLIP to create and store explicit memory for different categories beyond the immediate context window. During inference, RAR retrieves the top- $k$ similar results from the memory and uses MLLMs to rank and make the final predictions. Our proposed approach not only addresses the inherent limitations in fine-grained recognition but also preserves the model's comprehensive knowledge base, significantly boosting accuracy across a range of vision-language recognition tasks. Notably, our approach demonstrates a significant improvement in performance on 5 fine-grained visual recognition benchmarks, 11 few-shot image recognition datasets, and the 2 object detection datasets under the zero-shot recognition setting.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
釜底游鱼完成签到 ,获得积分10
刚刚
隐形曼青的应助被SYX采纳,获得10
1秒前
1秒前
小天使发布了新的文献求助20
2秒前
小邪发布了新的文献求助10
2秒前
GLFCX完成签到,获得积分10
3秒前
司衡完成签到,获得积分10
3秒前
3秒前
余生完成签到 ,获得积分10
3秒前
369ninja的应助被sheryy采纳,获得10
3秒前
4秒前
4秒前
lvy发布了新的文献求助10
5秒前
lvy发布了新的文献求助10
5秒前
5秒前
5秒前
小马甲的应助被OK采纳,获得10
5秒前
6秒前
6秒前
我是老大的应助被Dragon采纳,获得10
7秒前
松松松完成签到,获得积分10
7秒前
追寻定帮发布了新的文献求助10
7秒前
ChenLong完成签到,获得积分10
8秒前
顺利的楷瑞完成签到 ,获得积分10
9秒前
Ava的应助被24采纳,获得10
9秒前
Lucas的应助被完美芯采纳,获得10
10秒前
麻辣香锅完成签到,获得积分10
10秒前
FashionBoy的应助被完美芯采纳,获得10
10秒前
科研通AI6.3的应助被完美芯采纳,获得10
10秒前
田様的应助被完美芯采纳,获得10
10秒前
LIZ发布了新的文献求助30
10秒前
星辰大海的应助被完美芯采纳,获得10
10秒前
轻松雅青发布了新的文献求助10
10秒前
11秒前
11秒前
科目三的应助被小雨转晴采纳,获得10
11秒前
大模型的应助被合适的安梦采纳,获得10
11秒前
机智的书南完成签到,获得积分10
11秒前
笑傲江湖完成签到,获得积分10
11秒前
qi完成签到 ,获得积分10
11秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
Sex, Aging, and Death in a Medieval Medical Compendium: Trinity College Cambridge MS R.14.52, Its Texts, Language, and Scribe 500
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8188617
求助须知:如何正确求助?哪些是违规求助? 9576328
关于积分的说明 21846790
捐赠科研通 7786606
什么是DOI,文献DOI怎么找? 3435356
关于科研通互助平台的介绍 2559627
邀请新用户注册赠送积分活动 2482347