Physics-Guided Transformer (PGT): Physics-Aware Attention Mechanism for PINNs

嵌入 计算机科学 歪斜 残余物 算法 物理系统 变压器 忠诚 偏微分方程 人工神经网络 背景(考古学) Lift(数据挖掘) 反演(地质) 编码器 人工智能 离散化 反向传播 编码(内存) 数学 反问题 高保真 因果关系(物理学) 上下文模型 压缩性 微分方程
作者
Ehsan Zeraatkar,Rodion M. Podorozhny,Jelena Tešić
出处
期刊:Cornell University - arXiv [Cornell University]
被引量:2
标识
DOI:10.48550/arxiv.2603.27929
摘要

Reconstructing continuous physical fields from sparse, irregular observations is a central challenge in scientific machine learning, particularly for systems governed by partial differential equations (PDEs). Existing physics-informed methods typically enforce governing equations as soft penalty terms during optimization, often leading to gradient imbalance, instability, and degraded physical consistency under limited data. We introduce the Physics-Guided Transformer (PGT), a neural architecture that embeds physical structure directly into the self-attention mechanism. Specifically, PGT incorporates a heat-kernel-derived additive bias into attention logits, encoding diffusion dynamics and temporal causality within the representation. Query coordinates attend to these physics-conditioned context tokens, and the resulting features are decoded using a FiLM-modulated sinusoidal implicit network that adaptively controls spectral response. We evaluate PGT on the one-dimensional heat equation and two-dimensional incompressible Navier-Stokes systems. In sparse 1D reconstruction with 100 observations, PGT achieves a relative L2 error of 5.9e-3, significantly outperforming both PINNs and sinusoidal representations. In the 2D cylinder wake problem, PGT uniquely achieves both low PDE residual (8.3e-4) and competitive relative error (0.034), outperforming methods that optimize only one objective. These results demonstrate that embedding physics within attention improves stability, generalization, and physical fidelity under data-scarce conditions.
最长约 10秒,即可获得该文献文件

科研通智能强力驱动
Strongly Powered by AbleSci AI
科研通是完全免费的文献互助平台,具备全网最快的应助速度,最高的求助完成率。 对每一个文献求助,科研通都将尽心尽力,给求助人一个满意的交代。
实时播报
sagitar的应助被觅兴采纳,获得20
刚刚
陈醋塔塔发布了新的文献求助20
2秒前
深情安青的应助被aaa采纳,获得10
2秒前
3秒前
大力的又菡完成签到,获得积分10
3秒前
mouxq发布了新的文献求助10
3秒前
脑洞疼的应助被corleeang采纳,获得10
3秒前
迷路哑铃发布了新的文献求助10
4秒前
5秒前
邹家智发布了新的文献求助30
5秒前
molihuakai的应助被无定采纳,获得10
5秒前
fcj4186完成签到,获得积分10
5秒前
666完成签到,获得积分10
5秒前
把屎加工成巧克力完成签到,获得积分10
6秒前
7秒前
7秒前
王佟完成签到,获得积分10
7秒前
笨笨的白梅完成签到,获得积分10
7秒前
FF完成签到,获得积分10
7秒前
萝卜投完成签到,获得积分10
7秒前
8秒前
西门向卉发布了新的文献求助10
8秒前
无心科研完成签到,获得积分10
9秒前
我是老大的应助被面包树不圆采纳,获得10
9秒前
冷傲的不愁完成签到,获得积分10
10秒前
10秒前
Hello的应助被何大爷采纳,获得10
10秒前
10秒前
11秒前
完美世界的应助被corleeang采纳,获得10
11秒前
李爱国的应助被繁荣的向日葵采纳,获得10
11秒前
11秒前
ppp关闭了ppp的文献求助
13秒前
三水完成签到,获得积分10
13秒前
DW的应助被花火采纳,获得10
13秒前
14秒前
充电宝的应助被纹纹采纳,获得20
14秒前
喷火娃的应助被诺贝尔候选人采纳,获得10
14秒前
迷路哑铃完成签到,获得积分10
15秒前
今后的应助被曾经的安珊采纳,获得10
15秒前
高分求助中
(应助此贴封号)【重要!!请各用户(尤其是新用户)详细阅读】【科研通的精品贴汇总】 10000
拉伸高分子熔体中缠结行为的模拟和小角中子散射研究 1700
The World Atlas of Wine 9th edition 1000
奈特基础组织学:配套组织病理学(第4版)(Netter's Essential Histology With Correlated Histopathology) 800
八旗制度の研究 600
Improving the wear resistance of vehicle gear oil by oil soluble LaF3 nanoparticles and typical additives of gear oil 500
Boundaries and Bodhisattvas 500
热门求助领域 (近24小时)
化学 材料科学 医学 生物 纳米技术 计算机科学 工程类 有机化学 化学工程 生物化学 物理 复合材料 内科学 催化作用 光电子学 人工智能 细胞生物学 无机化学 物理化学 数学
热门帖子
关注 科研通微信公众号,转发送积分 8183142
求助须知:如何正确求助?哪些是违规求助? 9572420
关于积分的说明 21825253
捐赠科研通 7779922
什么是DOI,文献DOI怎么找? 3433850
关于科研通互助平台的介绍 2558060
邀请新用户注册赠送积分活动 2480124