Multimodal Deepfake Detection for Digital Forensics: A Robust Audio-Visual Inconsistency Approach for Evidence Integrity

计算机科学 稳健性(进化) 异步通信 人工智能 深度学习 生成语法 特征学习 同步(交流) 特征提取 利用 建筑 机器学习 特征(语言学) 隐马尔可夫模型 数字签名 数字取证 模糊测试 语音识别 电子学习 生成模型 隐藏字幕 图层(电子) 封面(代数) 变压器 人机交互
作者
Truong Xuan Hung,Luong The Dung,Tran Anh Tu
出处
期刊:Nghiên cứu khoa học và công nghệ trong lĩnh vực an toàn thông tin [Information Security Journal]
卷期号:: 5-26
标识
DOI:10.54654/isj.v2i28.1248
摘要

The rapid proliferation of Generative AI (GenAI) has democratized the creation of hyper-realistic multimedia forgeries, posing severe threats to electronic Know Your Customer (eKYC) systems and digital forensic investigations. While visual synthesis has reached near-perfection, maintaining precise synchronization between lip movements (visemes) and speech signals (phonemes) remains a formidable challenge. To address this, we propose a novel Multimodal Deep Learning framework designed to detect high-fidelity Deepfakes by exploiting audio visual temporal inconsistencies. Beyond traditional feature fusion, our architecture integrates a Contrastive Synchronization Loss with a Transformer based Cross-Modal Attention mechanism. This hybrid objective explicitly enforces intra-class compactness for authentic pairs while amplifying the distance for asynchronous forgeries. Extensive experiments on FaceForensics++, DFDC, and a custom Vietnamese dataset (Vn-eKYC-Aug) demonstrate that our model achieves state-of-the-art performance, maintaining high robustness against video compression and environmental noise, though operational efficacy remains sensitive to extreme low-light conditions and diverse regional dialects. This research provides a resilient forensic layer for digital identity verification, ensuring evidence integrity in the GenAI era.

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
pam完成签到,获得积分10
刚刚
白鹿汀洲完成签到,获得积分10
1秒前
细心的小霜完成签到,获得积分10
1秒前
科研通AI6.4应助呆萌笑晴采纳,获得10
1秒前
1秒前
1秒前
1秒前
1秒前
xing_xing应助热情的修哥采纳,获得20
2秒前
ny完成签到,获得积分10
2秒前
禾页完成签到,获得积分10
2秒前
感冒的发布了新的文献求助10
2秒前
yyyy发布了新的文献求助10
3秒前
4秒前
xxxxxxxxx完成签到,获得积分10
4秒前
4秒前
4秒前
我能私信骂你吗应助思思采纳,获得10
4秒前
4秒前
张涵发布了新的文献求助10
4秒前
初景发布了新的文献求助10
5秒前
大阿申发布了新的文献求助10
5秒前
111完成签到,获得积分10
5秒前
5秒前
5秒前
Lucas应助一辉采纳,获得10
6秒前
yy完成签到,获得积分10
6秒前
6秒前
2503185333完成签到,获得积分10
6秒前
顺利的小白菜完成签到,获得积分10
6秒前
6秒前
科研通AI6.2应助aa采纳,获得10
7秒前
7秒前
完美世界应助毛毛采纳,获得10
8秒前
华仔应助科研通管家采纳,获得10
8秒前
8秒前
8秒前
8秒前
共产主义战士应助月月采纳,获得10
9秒前
HiQ应助科研通管家采纳,获得20
9秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
Essentials of Carbohydrate Chemistry and Biochemistry, 4th Edition 800
Navigating Normative Orders. Interdisciplinary Perspectives 800
Organizational Behavior 510
Management and the Arts 510
Matrix Methods in Data Mining and Pattern Recognition Second Edition 510
CLSI VET01S-2024 Performance Standards for Antimicrobial Disk and Dilution Susceptibility Tests for Bacteria Isolated From Animals (7th Ed) 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 化学工程 工程类 有机化学 物理 复合材料 生物化学 内科学 细胞生物学 基因 遗传学 免疫学 冶金 光电子学 癌症研究
热门帖子
关注 科研通微信公众号,转发送积分 7762698
求助须知:如何正确求助?哪些是违规求助? 9307314
关于积分的说明 20299777
捐赠科研通 7347212
什么是DOI,文献DOI怎么找? 3313679
关于科研通互助平台的介绍 2463606
邀请新用户注册赠送积分活动 2327854