PoseTalker:Talking Head Synthesis via Pose-Driven 3D Gaussian Splatting

计算机科学 计算机视觉 人工智能 地标 渲染(计算机图形) 高斯分布 高保真 平滑的 偏移量(计算机科学) 混合模型 合成数据 计算机图形学(图像) 发电机(电路理论) 语音识别 可用的 运动捕捉 稳健性(进化) 视图合成 抖动 忠诚 变压器 可视化
作者
Zhen Xiong,Haozhi Huang,Zhen-Sheng Yuan,Guanghua Yang,Jundong Tan
标识
DOI:10.1109/ijcnn64981.2025.11227339
摘要

Synthesis of talking portraits is a challenging task. Recently, neural radiance fields (NeRF) have been utilized to achieve real-time synthesis and high-fidelity 3D modeling of talking portraits, demonstrating exciting success. However, besides the slow running speed of NeRF, most methods tend to produce artifacts and visual jitter due to the lack of detailed control over NeRF’s implicit expressions. In this work, we propose a novel method for pose-driven talking portrait synthesis based on 3D Gaussian Splatting (3DGS). The pose is composed of three dynamic data types: facial landmark, audio, and camera viewpoint. Our method consists of two modules: the facial landmark generator module and the Gaussian rendering module. The facial landmark generator module is based on a transformer network, which employs a cross-attention mechanism to capture the relationship between audio and facial landmark, outputting the facial landmark corresponding to any given audio. In the 3DGS part, the motion canonical Gaussian of the digital human is first obtained through static reconstruction. The spatial perception module is then used to ascertain the relationship between each type of pose data and the each Gaussian, predicting the offset of the Gaussian. The canonical Gaussian and the offset are combined to obtain the dynamic Gaussian. Extensive experiments show that our method outperforms existing methods in terms of the fidelity and synchronization of speech and video.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
小蘑菇的应助被路宽宽采纳,获得10
1秒前
u711711发布了新的文献求助10
1秒前
小蘑菇的应助被调皮的尔白采纳,获得10
1秒前
乐乐的应助被哦哦啊啊啊采纳,获得10
1秒前
YangHuilin完成签到 ,获得积分10
2秒前
3秒前
3秒前
王王完成签到 ,获得积分10
4秒前
4秒前
key的应助被369ninja采纳,获得10
4秒前
kkk完成签到,获得积分10
5秒前
嘿嘿嘿完成签到 ,获得积分10
5秒前
赘婿的应助被晚生不才采纳,获得10
5秒前
6秒前
6秒前
6秒前
tangz完成签到,获得积分20
6秒前
风中完成签到,获得积分10
6秒前
小yang发布了新的文献求助10
7秒前
Atwish发布了新的文献求助10
7秒前
李子青完成签到,获得积分10
8秒前
潇洒的无声完成签到 ,获得积分10
9秒前
热心冷亦完成签到,获得积分10
9秒前
高贵幼枫完成签到 ,获得积分10
10秒前
11秒前
哈哈发布了新的文献求助30
12秒前
12秒前
小yang完成签到,获得积分10
13秒前
14秒前
14秒前
Jasper的应助被ygqchem采纳,获得10
15秒前
tx的应助被ling采纳,获得10
15秒前
16秒前
16秒前
小小菜完成签到 ,获得积分10
16秒前
感动的莞完成签到,获得积分10
16秒前
16秒前
wanghaoan完成签到,获得积分10
16秒前
科研通AI65的应助被makabaka采纳,获得10
17秒前
u711711发布了新的文献求助10
17秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 2000
Sex, Aging, and Death in a Medieval Medical Compendium: Trinity College Cambridge MS R.14.52, Its Texts, Language, and Scribe 500
高分子基功能界面水蒸发材料与应用研究 500
外场增强的水汽发电研究 500
基于结构调控的功能化水诱导发电材料与器件研究 500
基于界面调控的高效湿气发电材料与器件研究 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8190664
求助须知:如何正确求助?哪些是违规求助? 9577768
关于积分的说明 21854688
捐赠科研通 7789790
什么是DOI,文献DOI怎么找? 3436425
关于科研通互助平台的介绍 2560302
邀请新用户注册赠送积分活动 2483169