游客发表

这项由英国牛津大学视觉几何组(Visual Geometry Group)主导的牛津能预研究,以预印本形式于2026年6月25日发布,大学动论文编号为 arXiv:2606.27364。学需感兴趣的理直研究者可通过该编号查阅完整原文。
物理世界充满变数,觉无从不按既定剧本上演。视频橡皮球从桌沿滚落,测物会划出特定的体运弧线;橡皮泥坠地,则呈现独特的牛津能预形变。人类凭借本能与经验,大学动无需复杂计算即可预判这些动态。学需然而,理直对于机器人、觉无游戏引擎及虚拟现实系统而言,视频让计算机真正“理解”三维空间中物体的测物运动规律,依然是人工智能领域的棘手难题。
牛津大学团队为此提出了名为 PHYSIFORMER的新型模型。其核心目标明确而宏大:仅需输入物体在某一时刻的位置与速度,模型即可预测其未来整段时间的完整运动轨迹——无论面对的是坚硬铁块还是柔软橡皮泥,无论场景中仅有一个物体还是多达十五个。
以往的研究多尝试利用视频生成模型模拟物理世界。逻辑看似直观:将摄像机捕捉的画面输入模型,预测下一帧图像,通过连续生成构建运动感。
然而,这一路径存在根本性缺陷——视频本质上是二维的“幻觉”。摄像机仅能记录固定视角的二维像素,物体的真实深度、形状与材质信息被严重压缩。更致命的是,同一物理过程在不同拍摄角度下呈现截然不同的画面。近期研究指出,现有视频生成模型在物理合理性上表现不佳,常违反牛顿定律,生成现实中不可能发生的运动。
牛津团队选择绕过这一弯路,直接在三维坐标空间中工作。他们将物体表示为顶点和三角形面组成的三维网格——这与MuJoCo、PyBullet等专业物理仿真器的底层表示一致。这种表示法具有视角无关性:无论观察角度如何变化,物体的三维坐标保持不变。换言之,PHYSIFORMER处理的不是“摄像机视角下的视觉表象”,而是“物体在真实空间中的实际状态”。
这一出发点带来了关键优势:物理定律本身即在三维空间中运作。相较于像素表达,使用三维坐标描述运动更加自然且精准。
PHYSIFORMER的输入包含三个关键要素:
* 初始位置 ($X_0$):每个顶点在初始时刻的三维坐标。
* 初始速度 ($V_0$):每个顶点在初始时刻的速度向量。
* 材质类型:标识物体是刚性(如金属)还是弹性(如橡皮泥)。
模型的任务是一次性输出未来整段时间内所有顶点的完整运动轨迹。研究团队将时间离散化为若干帧,每帧对应一个顶点位置矩阵,轨迹即为按时间排列的矩阵序列。
传统方法多采用自回归(Autoregressive)策略,即“接龙式”预测:先预测第二帧,再基于第二帧预测第三帧。虽然符合牛顿力学的马尔可夫特性,但存在致命弱点:误差累积。
* 每一步预测的微小偏差会在后续步骤中叠加。
* 实验显示,自回归模型在后期常出现金属块“融化”、静止物体漂移、物体穿透边界等现象。
PHYSIFORMER选择了一条不同路径:将整条轨迹视为单一生成目标,一次性生成。这种方式切断了帧间的误差传递链,确保模型在全局范围内保持时间一致性。
PHYSIFORMER基于扩散模型(Diffusion Model)技术,其工作原理类比于雕塑家从粗糙石料中雕琢出精细雕像。
由于处理的是原始三维坐标而非图像像素,信号尺度差异巨大。实验表明,使用标准高斯噪声的 1/10 (noise_scale=0.1)效果最佳:
* 噪声过小:泛化能力不足。
* 噪声过大:去噪任务过难,导致生成结果抖动杂乱。
* 推测原因:轨迹受初始状态强约束,有效信号范围较窄,小噪声尺度更适配。
采用 Heun积分器,默认50步迭代去噪。实验证实,25步即可达到近乎同等质量,推理速度提升一倍。
PHYSIFORMER基于扩散变换器(DiT)架构,针对物理模拟场景进行了核心改造,即注意力机制的三重分解,以解决计算复杂度爆炸问题($O(T^2N^2)$)。
计算效率提升:总计算量从 $O(T^2N^2)$ 降至 $O(TN^2 + NT^2)$,大幅优化效率,同时确保信息在时间、空间、物体三维度的充分流通。
变换器模型本身缺乏位置感知。PHYSIFORMER引入旋转位置编码(RoPE)以注入空间与时间信息:
此外,模型引入16个全局注册词元(Register Tokens),通过平均聚合更新,作为场景级全局记忆,维持局部注意力操作间的信息连贯性。
研究团队利用Genesis物理仿真器,构建了四个规模递增的数据集:
环境设置:
* 2米边长立方体容器。
* 近弹性碰撞,最小化摩擦力,保留阻尼以确保数值稳定。
训练策略:
* 阶段1:D1训练7万步 -> PHYSIFORMER-L-10k。
* 阶段2:D1+D2+D3微调2.7万步 -> 扩展刚体复杂性。
* 阶段3:D4微调1.2万步 -> 加入弹性能力(刚/弹比例6:4)。
研究团队设置了两类自回归基线进行对比:
1. $\Phi$AR框架:基于Transformer编码器,探索了上下文窗口扩展(ctx4)及训练噪声注入(ctx4_noised)。
2. TIE (Implicit Edge Transformer):粒子动力学领域SOTA模型,测试不同交互半径(r=0.4, 1.0, 2.0, 3.5)。
| 指标 | PHYSIFORMER | 最佳自回归基线 (TIE r=1.0) | 优势分析 |
|---|---|---|---|
| 轨迹MSE | $9.55 \times 10^{-4}$ | $14.8 \times 10^{-4}$ | PHYSIFORMER显著更低 |
| 刚性误差 | $0.185 \times 10^{-4}$ | $20.6 \times 10^{-4}$ | 刚体保持性极佳 |
| 动量漂移比 | 1.91 | 偏离1更远 | 动量守恒更优 |
关键发现:
* 稳定性:TIE和$\Phi$AR随时间推移性能急剧恶化;PHYSIFORMER在前10帧与49帧间差距温和,保持时间一致性。
* 视觉表现:自回归模型后期出现严重形变、漂移及穿透;PHYSIFORMER始终保持形状完整与运动合理。
* 归因分析:当自回归模型以真实数据逐帧输入时,误差骤降1-2个数量级。证明自回归模型具备学习能力,但架构本身的误差累积是性能瓶颈。
PHYSIFORMER展现了惊人的泛化潜力:
在配备80线程至强CPU的服务器上测试Genesis仿真器,对比PHYSIFORMER(H100 GPU, 25步去噪):
现实物理系统存在隐藏变量(质量、摩擦细节、初始偏差)。PHYSIFORMER的扩散框架将这些不确定性转化为生成多样性:
PHYSIFORMER的意义不仅在于指标超越,更在于提供了一种新视角:物理运动预测无需硬编码刚性约束或复杂接触算法。一个通用的扩散变换器,配合正确的三维网格表示与充分数据训练,即可自发涌现出对物理规律的理解。
当前局限与未来方向:
1. 固定长度:目前仅支持49帧轨迹。未来可结合扩散强迫(Diffusion Forcing)实现长序列生成。
2. 网格精度:训练顶点上限356,精细网格效果打折。未来可引入空间压缩技术。
3. 穿透现象:纯扩散损失训练偶发穿透。未来可加入基于碰撞检测的物理约束损失。
这项工作证明,赋予机器物理直觉,或许无需繁琐的公式硬编码,只需优质的数据、表示与灵活的框架。这为机器人、游戏引擎、工程仿真及数字孪生领域带来了令人期待的信号。
Q1:PHYSIFORMER和普通物理仿真器有什么区别?
A:传统仿真器需精确的物理参数(密度、摩擦系数等),计算量随复杂度剧增。PHYSIFORMER仅需初始位置、速度和粗略材质,通过神经网络一次性生成轨迹。对弹性物体,其速度比仿真器快5倍以上,且能处理仿真器失败的复杂场景。
Q2:PHYSIFORMER为什么不用自回归方式逐帧预测?
A:自回归方式的每一步误差会累积至下一步,导致后期物体形变、漂移或穿透。实验证明,自回归模型在理想条件下(逐帧真实输入)表现良好,说明问题在于架构导致的误差累积,而非学习能力不足。PHYSIFORMER一次性生成全轨迹,彻底规避此问题。
Q3:PHYSIFORMER如何在没有标记物体身份的情况下区分不同物体?
A:通过物体层面注意力(Object Attention)隐式编码。将同一物体的顶点归为一组并互相关注,模型自动学习同组顶点的整体一致性。该设计对物体数量和排列顺序不敏感(置换不变性),因此能直接泛化至训练时未见过的物体数量。
随机阅读
热门排行
友情链接