Edge Compatible Transformer Based Model for Retinal Disease Diagnosis from OCT Images Using Self Supervised Pretraining

计算机科学 可解释性 人工智能 光学相干层析成像 卷积神经网络 计算机视觉 稳健性(进化) 变压器 模式识别(心理学) 可扩展性 医学影像学 可视化 深度学习 训练集 图像质量 平滑的 量化(信号处理) 机器学习 边缘检测 边缘设备 人工神经网络 视网膜 监督学习 机器视觉
作者
Jesvanth S,Karan Kumar K,Devadharshini S.,S Sudharson
出处
期刊: [Institute of Electrical and Electronics Engineers]
卷期号:: 1-8
标识
DOI:10.1109/cict67193.2025.11398870
摘要

The transformer-based automated model to classify retinal diseases using Optical Coherence Tomography (OCT) images and specifically aiming to be deployed in edge devices. The Convolutional Neural Networks (CNNs) and other traditional methods require significant amount of annotated data and computing power and therefore can only be used in real-time or resource-poor settings such as mobile diagnostic devices. To overcome these limitations, this paper suggests a lightweight Vision Transformer (ViT) that will be pretrained through the self-supervised learning approach namely, Masked Autoencoders (MAE) to useful utilize unlabelled OCT data. To build robustness to sub-optimal imaging conditions the scores assigned to image quality are also integrated directly into the training pipeline. Additionally, quantization and pruning strategies has been adopted to compress the model to fit well in edge-deployment. Proposed model is validated by performing scalable experiments on publicly accessible datasets, such as OCT2017 and OCTDL, and outperforms the traditional CNN-based baselines in accuracy and speed of the inference, and model size. Moreover, the attention rollout visualizations are used to increase clinical interpretability of the system making it practically efficient and explainable in the real-world ophthalmic setting.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
dqhlm发布了新的文献求助10
刚刚
chemwd完成签到,获得积分10
刚刚
刚刚
爱睡觉的噜噜完成签到,获得积分10
1秒前
1秒前
qizhang完成签到,获得积分10
1秒前
斯文败类的应助被普洛望斯采纳,获得10
2秒前
zfy157619完成签到,获得积分10
2秒前
3秒前
4秒前
秋风的应助被柏笙笑采纳,获得20
4秒前
歪歪发布了新的文献求助10
5秒前
QingCress77完成签到 ,获得积分10
6秒前
6秒前
呓语完成签到 ,获得积分10
6秒前
6秒前
打打的应助被天青妖采纳,获得10
6秒前
领导范儿的应助被陌路采纳,获得10
7秒前
CipherSage的应助被感性的忆灵采纳,获得10
7秒前
饺子发布了新的文献求助10
7秒前
Jasper的应助被可靠松鼠采纳,获得10
7秒前
年轻怀绿完成签到,获得积分10
8秒前
8秒前
8秒前
8秒前
Hao完成签到 ,获得积分10
8秒前
科研小冯完成签到,获得积分10
9秒前
mabing完成签到 ,获得积分10
10秒前
乃带娃儿完成签到,获得积分10
10秒前
huanj完成签到,获得积分20
11秒前
ccshu发布了新的文献求助10
11秒前
热情的猪羔子完成签到,获得积分10
12秒前
12秒前
美丽发布了新的文献求助10
12秒前
兰先生发布了新的文献求助10
12秒前
婧婧发布了新的文献求助30
13秒前
13秒前
13秒前
情怀的应助被jiaokaige采纳,获得10
14秒前
14秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8187652
求助须知:如何正确求助?哪些是违规求助? 9575758
关于积分的说明 21842805
捐赠科研通 7785538
什么是DOI,文献DOI怎么找? 3435073
关于科研通互助平台的介绍 2559480
邀请新用户注册赠送积分活动 2481963