OneWM: 世界模型与动作生成能否互相受益

先看结论

这篇论文问了一个所有人都觉得「显然有」、但一直没人干净验证过的因果问题:学世界模型对学策略到底有没有帮助?反过来呢?

它的做法不是发明新模块,而是把「动作在训练里扮演什么角色」从一个架构决策降级成一个数据旋钮 rr,然后在这个统一框架下做双向对照实验。四句话概括结果:

  1. 世界模型帮策略,但只在分布外。同分布 LIBERO 上只比 WAM 变体高 2.4 点,还输给 Fast-WAM 3.6 点;到了分布外 LIBERO-Plus 上高出 5.9 点,RoboCasa365 上高出 8.4 点。
  2. 策略帮世界模型,幅度很小。同架构对照下 PSNR 只涨 0.49–0.62 dB,SSIM 涨 0.008–0.012。真实存在,但远谈不上「重塑」。
  3. 混合比里真正的自变量不是「干净动作占比」。消融显示干净条件加到 25% 时策略在 OOD 上从 59.27 崩到 38.01,而世界模型指标几乎不动。原因是部署模式(r=0r=0)的样本被砍半了。
  4. 因果掩码的作用不是「防作弊」,而是让「不生成任何一帧视频就能出动作」在训练阶段就成立。世界模型的能力留在权重里,不在推理图里。

一句话判断:这是一篇「问题重构 + 严谨消融」的论文,不是「新架构」的论文。 架构是 MoT + Wan2.2,训练目标是标准 flow matching,两者都是借的。


1 问题:两条互斥的设计路线

想同时要「懂物理」和「会动手」,前人给了四种做法,每一种都牺牲了一头:

做法 视频看到的动作 牺牲了什么
WAMmask 屏蔽 action→video 学不到「指定动作的视觉后果」
WAMnoisy 全程带噪动作 Lv\mathcal{L}_v 退化成「预测未来的边缘分布」,控制信息接近于零
双向联合去噪(Cosmos 3 一路) 带噪 + 双向注意力 视频质量下降(负迁移);且动作分支被锁死在「必须先生成未来视频」的推理图上
纯世界模型(WM) 全程干净 物理学得好,但完全动作损失

论文的观察是:这四个选项其实是同一根轴上的四个刻度。 用「干净动作前缀长度 rr」参数化,r=0r=0 就是全噪声,r=Kr=K 就是全干净,中间连续。既然是一根轴,就没有理由只取端点。


2 方法

OneWM 总体架构:视频 DiT 与动作 DiT 通过联合因果注意力交互
论文 Figure 1|上:视频 DiT 与动作 DiT 各自持有 Q/K/V、文本交叉注意力与 FFN,只在 Joint Attention 处共享一次带因果掩码的注意力运算。下:三种动作构造——All Clean、Prefix Clean(干净前缀 + 带噪后缀)、All Noisy。注意两支各自接收 τ 和语言 ℓ。

2.1 架构:MoT + 非对称因果掩码

视频专家从 Wan2.2-TI2V-5B 初始化(复用其 VAE 与 umT5 文本编码器),动作专家另起一套。两个专家各有自己的 Q/K/V 投影、FFN 和文本 cross-attention,只有「联合注意力这个运算」是共享的。

这一点必须先说清:所谓「shared video–action architecture」不是权重共享,而是在注意力 K/V 上开了一条互看通道。所以它没有出现 Cosmos 3 那种负迁移——两个专家仍各自保留容量。

基座尺寸(从 HuggingFace 官方 config.json 核对):

参数 值
dim / ffn_dim 3072 / 14336
num_layers 30
num_heads 24(head dim 128)
latent 通道 48
文本编码器 umT5-xxl,text_len 512
VAE 压缩 16×16 空间 / 4× 时间

每层约 1.7 亿参数(注意力 3770 万 + FFN 1.32 亿),×30 ≈ 5.1B,对上「5B」的名头。动作专家是在这个 5B 之上额外挂的一小套专家,不是从 5B 里切出来的。

2.2 可见性矩阵:全文的核心

设 V0\mathcal{V}_0 是观测块、Vi\mathcal{V}_i 是第 ii 个未来帧、Ai\mathcal{A}_i 是与该帧对齐的动作段,则:

Sv(i)=V≤i∪A≤i,Sa(i)=V0∪A≤i\mathcal{S}v(i)=\mathcal{V}{\le i}\cup\mathcal{A}_{\le i},\qquad \mathcal{S}_a(i)=\mathcal{V}0\cup\mathcal{A}{\le i}

V₀V₁V₂V₃ A₁A₂A₃ V₀V₁V₂V₃ A₁A₂A₃ 行 = query 块;列 = 它允许看到的 key 块
块级可见性矩阵。三条关键性质:视频行看得到动作(唯一「控制→画面」通路);动作行只看得到 V₀(部署时无需生成未来视频);V₀ 行只看自己(可提前算好并缓存)。

三条结论,全部是工程级的:

  • 动作分支永远看不到未来视频 → 部署时不必生成一帧视频;且训练/部署的可见集完全一致。
  • 视频分支看得到动作 → 这是「指定控制 → 视觉后果」的唯一显式监督通路。
  • 观测块不看任何动作 → 它是观测的纯函数,可以在任何动作存在之前算出来。

第三条还有一条更硬的理由,是计算顺序上的死锁:部署时动作从纯噪声开始去噪,第一步就要 V0\mathcal{V}_0 当条件。如果 V0\mathcal{V}_0 的表示依赖动作 token,就变成「要算 V0\mathcal{V}_0 得先有动作、要算动作得先有 V0\mathcal{V}_0」。

这三条其实是同一句话:每个 token 在训练时的可见集,必须等于它在部署时能拿到的信息集。

注意力本身是 MoT 形式,两个专家的 K/V 拼接后联合 softmax:

Um=softmax⁡Sm ⁣(QmK⊤d)V,K=[KvKa], V=[VvVa]U_m=\operatorname{softmax}_{\mathcal{S}_m}!\left(\frac{Q_mK^{\top}}{\sqrt{d}}\right)V,\quad K=\begin{bmatrix}K_v\ K_a\end{bmatrix},\ V=\begin{bmatrix}V_v\ V_a\end{bmatrix}

掩码只依赖块索引,与 rr 无关。 这是实现上的关键便利:三种 regime 可以混在同一个 batch 里,不受变长序列或每样本动态形状影响,训练吞吐几乎不变。

2.3 三种条件 regime:同一根轴上的三个刻度

每样本按 60/25/15 抽取 rr:

模式 rr 动作输入 噪声级 La\mathcal{L}_a 覆盖 在练什么
全噪声 0 全是噪声 τa\tau_a 全部 KK 步 部署时的样子:只给画面,自己出动作
前缀干净 0<r<K0<r<K 前 rr 步真值 前 0 后 τa\tau_a 只算后 K−rK-r 步 做到一半,接下来怎么办
全干净 KK 全是真值 全 0 0 我给你动作,你画出后果
视频拿到的干净动作占比 → 动作被监督的比例 → r = 0 全噪声(60%) 动作全监督,视频条件最差 前缀干净(25%) 两边都不极端 r = K 全干净(15%) 条件最好,动作零监督
两个坐标轴此消彼长:r/Kr/K(视频拿到的干净动作)++ (K−r)/K(K-r)/K(动作被监督的份额)=1=1。三种 regime 落在一条反对角线上,partial-clean 是唯一「两边都非零」的区段。

2.4 逐 token 的噪声级 embedding

论文用一句话带过「action expert receives a noise-level embedding for each token」,但这是整个设计的必要配套,不是修饰。

因为 rr 会「perturb by up to two action steps」,而每个动作块对齐 4 步——所以 rr 可以落在一个块的正中间。r=18r=18 时,第 5 块(动作 17–20)就变成「前 2 步干净、后 2 步带噪」。

于是同一条样本内同时存在两种噪声级:

(0,…,0⏟r,τa,…,τa⏟K−r)(\underbrace{0,\dots,0}{r},\underbrace{\tau_a,\dots,\tau_a}{K-r})

如果沿用 DiT 惯用的全局 AdaLN 调制(整条样本一个标量 τ\tau),这个信息表达不了。逐 token 的噪声级 embedding 同时编码了「脏度」和「角色」:0 表示「我是干净条件,别去噪我」,τa\tau_a 表示「我是带噪目标,请预测速度」。

反过来说:正因为有这个编码方式,rr 才能安全地抖动到块中间;否则必须强制块对齐。块对齐给清晰语义(分界落在一个视觉单元上),±2 抖动防捷径(不让模型学「边界总在 4 的倍数」)。

2.5 联合训练目标

目标速度 ϵ−x\bm{\epsilon}-\mathbf{x}(flow matching 约定):

x(τ)=(1−τ)x+τϵ\mathbf{x}(\tau)=(1-\tau)\mathbf{x}+\tau\bm{\epsilon}

Lv=E[wv(τv)∥u^v−(ϵv−zfut)∥mean2]\mathcal{L}_v=\mathbb{E}\Big[w_v(\tau_v)\big|\widehat{\mathbf{u}}_v-(\bm{\epsilon}v-\mathbf{z}^{\mathrm{fut}})\big|{\mathrm{mean}}^2\Big]

La=Er<K[wa(τa)∥u^a,>r−(ϵa,>r−a>r)∥mean2]\mathcal{L}a=\mathbb{E}{r<K}\Big[w_a(\tau_a)\big|\widehat{\mathbf{u}}{a,>r}-(\bm{\epsilon}{a,>r}-\mathbf{a}{>r})\big|{\mathrm{mean}}^2\Big]

L=λvLv+λaLa\mathcal{L}=\lambda_v\mathcal{L}_v+\lambda_a\mathcal{L}_a

三个容易错过的点:

  1. La\mathcal{L}_a 只在 r<Kr<K 的样本上算。全干净样本对动作分支的贡献是 0。
  2. 下标 a,>ra,>r 意味着只有「正在被去噪的那部分」进 loss。已干净的前缀是条件,不产生梯度。
  3. ∥⋅∥mean|\cdot|_{\mathrm{mean}} 除以有效元素数,所以后缀长度变化时 loss 尺度不变——partial 样本不是「打折样本」,它以正常强度监督了一个子任务。

2.6 梯度沿哪条路双向流动

这是「互相受益」的机制核心,论文只用一句「provide routes for learning signals from one task to shape representations used by the other」带过。展开是:

损失 直接更新 顺带更新 为什么能顺带
Lv\mathcal{L}_v 视频专家参数 动作专家的 K/V 投影 视频 query 的注意力落在 A≤i\mathcal{A}_{\le i} 的 K/V 上
La\mathcal{L}_a 动作专家参数 视频专家的 K/V 投影(尤其 V0\mathcal{V}_0) 动作 query 只能 attend V0∪A≤i\mathcal{V}0\cup\mathcal{A}{\le i}

所以第二个命题有了精确通路:动作损失把 V0\mathcal{V}_0 的 K/V 表征压成「对预测控制有用」的形式,而这个表征同时是视频未来帧 query 的 K/V 来源,视频预测跟着变准。

论文没有做梯度归因实验来证明这条通路,只有端到端指标支撑。[推断]


3 训练细节

3.1 四个域的配置

域 训练数据 训练预算 备注
LIBERO Spatial / Object / Goal / Long 四套演示联合训练 20 epoch,global batch 128 沿用 Fast-WAM 配方
LIBERO-Plus 不训练 — 拿 LIBERO 模型直接零样本测
RoboCasa365 官方演示集 90k 优化步,global batch 1024
真机 3 任务 × 50 条 = 150 episodes 20 epoch,global batch 96 每任务 15 trials/模型
仿真基准与真机评测任务示例
论文 Figure 2|左:三个仿真基准的任务序列(LIBERO 放碗进抽屉、LIBERO-Plus 放瓶子到架子、RoboCasa365 把杯子放到饮水机下)。右:三个真机任务——叠三色积木、把蓝块插进收纳单元、把吐司和煎蛋装盘。

LIBERO-Plus 是完全零样本的。 表里的 59.27% 是在背景、相机、语言、光照、布局、初始位姿、传感器噪声七类扰动全部变化下测出来的,不是重新调过的。

3.2 视频评测集怎么来的

三个 benchmark 本来只用于策略评测,没有给动作条件视频预测准备验证集,所以作者自己造:

域 参考 rollout 来源 规模
LIBERO / LIBERO-Plus π0.5\pi_{0.5} 100 条 episode,跨 suite 与七类扰动均匀采样
RoboCasa365 Xiaomi-Robotics-1 100 条 episode,跨 50 个目标任务均匀采样
  • 全部多视角(external + wrist)。
  • chunk 对齐:LIBERO 系 32 步动作、帧步长 4;RoboCasa365 16 步动作、帧步长 2。两者都正好覆盖 8 个未来帧(不含条件帧)。
  • 指标实现:PSNR/SSIM/LPIPS 用 PIQ 0.8;FID 用 Inception-v3 2048 维、299×299299\times299;FVD 用 PyTorchVideo 的 I3D-R50、400 维 logits、8 帧 224×224224\times224;FID/FVD 的预测与参考都先过 H.264 QP=20 / YUV420p 编解码再提特征。

3.3 张量流(以 LIBERO 分辨率为例)

步骤 张量 形状
文本 E 512 × 4096(umT5),两个专家各一套投影
观测 VAE z_ctx 48 × 1 × 16 × 16
patchify V0\mathcal{V}_0 64 token × 3072
未来 VAE z_fut 48 × 8 × 16 × 16
加噪 + patchify V1..8\mathcal{V}_{1..8} 512 token × 3072
动作嵌入 A1..8\mathcal{A}_{1..8} 32 token × dim_a
序列总长 — 608 token

三种 regime 的序列长度完全相同,差别只在动作 token 的数值与噪声级 embedding——这是能混 batch 的直接原因。

算力分布:576 个视频 token 对 32 个动作 token,约 18:1。所以训练成本基本就是「跑一个 5B 视频模型」,动作专家的边际开销很小。


4 推理:两种模式,一个模型

模式 rr 动作 视频 用途
世界预测 KK 外部给定、全程固定 从高斯噪声去噪未来 latent 评测预测保真度
动作生成 0 从高斯噪声去噪 完全不生成 真机 / 闭环控制

动作生成的实现要点:V0\mathcal{V}_0 表征在整个去噪过程中复用(KV 缓存),只跑一次视觉前向。

常规 WAM(先生成未来视频) OneWM 动作生成
每 replanning step 前向次数 1(V₀)+ 10(视频)+ 10(动作)= 21 1 + 10(仅动作)
后 10 步参与注意力的 token 每步 608 32 query × 96 key

后 10 步几乎可以忽略。实际开销 ≈ 一次视觉前向 + 一次文本前向 + 极小的动作去噪。

这就是「世界模型的能力留在权重里,而不是留在推理图里」的具体形态。

4.1 Endless Dream

把两种推理模式串成闭环:

a^j∼pθ(a∣Cj),z^jfut∼pθ(zfut∣Cj,a^j),o^j+1=last⁡(D(z^jfut))\hat{\mathbf{a}}j\sim p\theta(\mathbf{a}\mid\mathcal{C}_j),\quad \hat{\mathbf{z}}^{\mathrm{fut}}j\sim p\theta(\mathbf{z}^{\mathrm{fut}}\mid\mathcal{C}_j,\hat{\mathbf{a}}j),\quad \hat{\mathbf{o}}{j+1}=\operatorname{last}\big(D(\hat{\mathbf{z}}^{\mathrm{fut}}_j)\big)

  • 16 轮 × 32 动作 = 512 步;512 × 0.05 s = 25.6 s,反推控制频率 20 Hz,与 LIBERO 设定一致。
  • 每轮 8 帧,两阶段各 10 步去噪,固定种子 42。
  • 只有初始观测来自环境,之后全部自产;指令不变,无任何校正。
  • 关键实现是 last⁡(⋅)\operatorname{last}(\cdot):只取最后一帧解码,再重新 VAE 编码成新的 V0\mathcal{V}_0。不做 latent 直接续接,而是走一遍解码→编码往返。代价是每次往返都有重建损失,好处是重编码后的观测与真实观测落在同一分布里。
Endless Dream:16 轮纯想象自回归的六条 rollout
论文 Figure 7|六条 rollout 的主视角与腕视角。蓝框为初始观测,之后每一帧都是模型自产的;横轴是建模时间,最后一列是第 16 轮终点。全程没有环境反馈、没有指令变更、没有校正。

5 实验

5.1 消融一:干净动作条件值多少

控制变量:同一套 MoT、同一份数据、同一 batch、同一预算,三者都同时学视频 + 动作。唯一被改的是「视频分支能看到什么动作」。

方法 LIBERO Avg LIBERO-Plus Overall RoboCasa365 Overall
π0\pi_0 94.40 53.60 14.80
π0.5\pi_{0.5} — — 16.90
WorldVLA 81.80 25.00 —
Fast-WAM 97.60 49.70 —
GigaWorld-Policy — — 20.70
GR00T N1.6 — — 21.90
WAMmask 92.45 53.37 28.32
WAMnoisy 92.60 52.50 —
OneWM 94.95 59.27 36.68

读法:

  • 同分布 LIBERO 上只比两个 WAM 变体高 2.4 / 2.5 点,而且还输给 Fast-WAM 3.6 点。
  • OOD 的 LIBERO-Plus 上高 5.9 / 6.8 点;RoboCasa365 上比 WAMmask 高 8.4 点。
  • 分项最能说明问题:噪声 67.08 vs 50.41、语言 79.57 vs 73.85、布局 71.08 vs 62.36、背景 57.34 vs 54.00;但光照 79.86 vs 84.24 反而下降,机器人初始位姿 47.81 vs 47.68 基本没动。

准确表述:干净动作条件带来的不是「更强的动作拟合」,而是对场景外观变化的鲁棒性;它对光照渲染风格和本体状态分布无能为力。如果你的失效模式是光照域偏移或本体动力学差异,别指望它。

5.2 消融二:动作学习值多少

控制变量:同一 MoT、同一 Wan2.2 骨干、同一数据与预算,推理时都给干净动作。唯一被改的是有没有动作预测损失。额外加了 WM_AdaLN(IRASim 风格,用 AdaLN 注入动作)来排除「增益来自 MoT 联合注意力本身」这个混淆。

benchmark 指标 Wan WM_AdaLN WM OneWM
LIBERO PSNR ↑ 20.52 20.52 22.33 22.95
SSIM ↑ .8045 .8057 .8325 .8423
LPIPS ↓ .1817 .1793 .1529 .1458
FID ↓ 14.00 12.88 11.89 12.45
FVD ↓ 15.83 14.73 13.68 13.58
LIBERO-Plus PSNR ↑ 19.08 19.58 20.54 21.05
SSIM ↑ .7575 .7813 .7937 .8049
LPIPS ↓ .2448 .2185 .2014 .1935
FID ↓ 24.01 15.91 18.06 17.01
FVD ↓ 49.73 29.53 32.48 31.66
RoboCasa365 PSNR ↑ 23.27 22.22 24.72 25.21
SSIM ↑ .8176 .7873 .8433 .8515
LPIPS ↓ .1292 .1564 .1087 .1015
FID ↓ 9.04 10.28 9.20 9.16
FVD ↓ 20.23 15.98 18.55 17.74
  • 与架构完全一致的 WM 比,OneWM 在 PSNR/SSIM/LPIPS 三项上三个 benchmark 全胜,FVD 也全胜。
  • 但幅度很小:PSNR 只涨 0.49–0.62 dB。证明「有收益」,不足以支撑「显著重塑」。
  • FID/FVD 会与 PSNR 冲突:LIBERO-Plus 上 WM_AdaLN 的 FID 15.91 / FVD 29.53 明显优于 OneWM 的 17.01 / 31.66。作者给了正确解读——这两个是池化特征分布的距离,把生成的视频随机配给别的动作序列,数值不会变。它们根本不检验「画面是否跟随指定动作」。

这条对整个领域有效:如果你的世界模型评测只报 FID/FVD,你测的可能只是「画得像不像」,而不是「听不听话」。

论文用定性的配对对比补这个洞:同一观测、同一指令、同一条干净动作序列、同一相机,只换模型。看的是夹爪相对物体的位置、瓶身旋转、抽屉位移这类「画面是否跟随动作」的证据。

主视角动作条件世界预测对比
论文 Figure 4|主视角,六个场景(LIBERO 与 LIBERO-Plus 混合)。橙框是 t+32 时刻的放大区域。相对 WM_AdaLN,OneWM 更贴合被握住的摩卡壶与夹爪姿态、夹爪相对奶油奶酪盒的位置、酱料瓶旁的夹爪高度;相对 WM,更贴合瓶身旋转、纸盒与篮子的对齐、夹爪与盘子的关系。
腕视角动作条件世界预测对比
论文 Figure 5|腕视角,同样的六组场景换成本地几何。检验接触点附近的细节:抽屉的像平面位置、奶油奶酪盒相对夹爪、酱料瓶盖的位置与朝向、瓶口几何、黄油的延展范围、瓶身倾角。与 Figure 4 的奶油奶酪/酱料/酒瓶三例可对照同一动作在两路相机下的一致性。
RoboCasa365 三路相机的世界预测对比
论文 Figure 6|RoboCasa365,左/腕/右三路相机。左侧看小臂回撤与夹爪-门板运动;腕部视角里基线会高估视角变化,把冰箱几何提前挪位、让碗过早进入画面;右侧看夹爪在台面与冰块附近的下落与朝向。

5.3 消融三:条件混合比

混合比(全噪/前缀/全干净) LIBERO SR LIBERO-Plus SR PSNR (LIBERO/Plus) SSIM (LIBERO/Plus)
60/25/15(默认) 94.95 59.27 22.95 / 21.05 .8423 / .8049
50/35/15 95.95 56.98 22.44 / 20.57 .8347 / .7943
30/45/25 87.80 38.01 23.12 / 20.90 .8443 / .7993

现象自洽的解释:

  • 50/35/15:同分布 LIBERO 反而最好(95.95),但 OOD 掉 2.3 点。
  • 30/45/25:OOD 从 59.27 崩到 38.01(−21 点)。而部署时恰恰是 r=0r=0 的全噪声模式,这个 regime 的样本从 60% 掉到 30%——砍了一半。另外 70% 的样本都在做一件更容易的事(有一半甚至四分之三的动作是白送的)。
  • 同时世界预测指标基本不动甚至略好(PSNR 23.12 最高):干净条件越多,视频任务越容易,这是「任务变简单」而非「模型变强」。

所以 30/45/25 不是「两个任务双输」,而是把训练信号从部署模式转移到了更容易的 regime。主因是 r=0r=0 样本被砍半,token 配额下降(−28%)、有动作 loss 的样本比例下降(85%→75%)只是同方向的次要因素——而崩塌幅度远超它们的线性外推,说明更像跨过了某个阈值。


6 四个 insight

I1 因果掩码是「信息集对齐」,不是建模偏好

最容易被当成实现细节、其实是全文前提的一条。

双向注意力下,动作分支在训练时能偷看「即将被去噪的未来视频 latent」——那是标签泄漏。这条通路在「只生成动作」的部署模式下完全不存在。

但注意:如果部署模式就是同步联合去噪,那未来 latent 确实存在,就不算泄漏。 这种情况下真正的问题是另外三个:

  1. 延迟:出 32 个动作要先跑完整条视频去噪。
  2. 漂移:动作读的是模型自己生成的未来画面,策略失效 ⊂\subset 世界模型失效,引入了一个额外失效点。
  3. 正方形 vs 对角线:训练时 τv,τa\tau_v,\tau_a 独立采样,(τv,τa)(\tau_v,\tau_a) 铺满单位正方形;部署时同步去噪只走对角线。
τ_v(视频噪声级) τ_a(动作噪声级) 视频干净 动作全噪 =免费区 部署只走这条线
训练铺满整个正方形,部署只访问对角线。左上角(视频干净 + 动作全噪)是最容易的区域,动作 loss 在这里被视频通道「免责」,于是动作分支的真实能力不可辨识。

这才是双向联合去噪的结构性问题——不是它作弊,而是它让训练信号无法归因。

所以 OneWM 的掩码买来的不是「正确性」,是部署形态的自由度:它把「必须生成未来视频」从推理图里摘掉了,代价是放弃那条最容易的通路。

I2 「世界模型看到多少动作信息」是一个旋钮

前人把这件事当成离散选择,OneWM 说这四者是同一条线上的点。一旦接受这个视角:三种 regime 可以混在一个 batch 里(掩码与 rr 无关);「任务变更」变成纯数据构造,不需要改架构、不需要改 loss 形式;两个方向被并入同一批参数。

真正的新意:任务边界不该画在架构上,该画在数据上。

I3 互益是真的,但表现为「泛化」而非「拟合」

同分布 LIBERO 分布外 LIBERO-Plus
OneWM vs WAMmask +2.5 +5.9
OneWM vs WAMnoisy +2.35 +6.8
OneWM vs Fast-WAM −2.65(输) +9.57(赢)

以干净动作为条件的前向动力学监督,不会让策略更会做它练过的任务;它让策略的表征对与任务无关的外观变化更不敏感。

反直觉的推论:如果目标只是刷同分布 benchmark,这套设计是负收益的。

I4 FID/FVD 检验不了「动作条件性」

见 5.2。正确做法是配对指标 + 定性图里的接触点/位姿关系,分布指标只能当辅助。


7 创新点评级

候选创新点 评级 依据
MoT 双专家 ✗ 借用 Liang et al. 2024
Wan2.2 骨干、flow matching ✗ 借用 官方权重 / Lipman et al. 2023
因果块掩码 ~ 具体化 WorldVLA / Fast-WAM 已有因果变体
rr 参数化条件 ✓ 概念创新 前人当离散设计选,这里当连续旋钮扫
partial-clean ~ 重组 inpainting / prefix-LM 的套路搬到动作块
逐 token 噪声级 embedding ~ 必要配套 不是创新,是 rr 抖动到块中间的必然要求
同 batch 混 regime ✓ 工程创新 掩码与 rr 无关 → 零开销混跑
双向受控消融(含 AdaLN 对照) ✓ 方法论创新 架构匹配,排除了联合注意力的混淆
Endless Dream ✗ 演示 固定 16 轮、种子 42、仅定性

一句话:创新在「问题重构 + 严谨消融」,不在「新模块」。

它和 Fast-WAM 的关系需要说准:Fast-WAM 的标题本身就是 Do world action models need test-time future imagination?,结论「不需要」已经给出了。OneWM 的 delta 是证明了不必靠拆模块也能做到:

Fast-WAM OneWM
部署时不生成视频 ✅ ✅
视频/动作共享表征 ❌ 拆成独立模块 ✅ 同一注意力运算
因此能谈「互益」 ❌ ✅

8 局限与复现缺口

按严重程度:

  1. partial-clean 的必要性完全没证明。三档配比里 partial 从 25% 加到 45%,唯独没有 0%。而趋势是越多越差。所以现有数据只能支持「25% 是可承受上限」,不能支持「它必不可少」——而按论文自己的叙述,partial 是连接两个端点的关键。
  2. 第一组消融有监督量混淆。WAMmask / WAMnoisy 的动作损失覆盖 100% 样本,OneWM 只覆盖 85%(60% 全量 + 25% 后缀)。所以「干净条件」的增益里混着「监督量不同」。
  3. 真机每任务 15 trials。粒度 6.7%,三任务合计 45 trials,统计功效很弱。
  4. 视频评测集只有 100 条 episode,且来自 π0.5\pi_{0.5} / Xiaomi-Robotics-1 的 rollout,与训练数据分布不同;无置信区间,PSNR 上 0.5 dB 级别的差异有多少是采样噪声无法判断。
  5. 跨论文数字不可比。表里的 π0\pi_0 / Fast-WAM / GR00T / GigaWorld-Policy 是各自论文的数字,数据、预训练、预算都不同。唯一可信的是内部对照。
  6. 没有任何效率数字。没有参数量、FLOPs、单步延迟、显存。对一个主打「部署时不必生成视频」的方法,这是明显空缺。

复现必须知道但论文没写的:

缺口 影响
动作专家怎么初始化 致命。从 Wan 复制再改投影,还是随机初始化,是两件不同的事——直接决定能否收敛
dim_a、动作归一化、绝对/增量 致命。与 flow matching 的目标尺度强相关
λv,λa\lambda_v,\lambda_a 与 wv,waw_v,w_a 的形式 高
partial 采样中「块对齐 vs 均匀」的混合比例 中。只写「按固定比例」
训练分辨率与每帧 latent token 数 中。决定显存,也决定序列长度
多视角怎么进序列 中。Endless Dream 用主视角 + 腕视角,但没说是否拼成同一序列
每帧对齐几个动作步 低。可从「32 步 / 8 帧 / stride 4」推出为 4,但正文未明写

9 三个在讨论中被修正的判断

这轮研读里,有三处最初的直觉是被推翻或修正的,记录在这里:

① 「混合比调节的是动作监督 token 配额」——不完整。 token 配额可以精确算:pnoisyK+ppartial⋅K/2p_{\text{noisy}}K+p_{\text{partial}}\cdot K/2(前缀均匀采样与块对齐采样的期望都是 K/2K/2)。但真正崩的是「部署模式(r=0r=0)的样本被砍半」,而配额只降 28%、样本比例只降 17%——崩塌幅度 36% 远超它们的线性外推。另外 ∥⋅∥mean|\cdot|_{\mathrm{mean}} 让每条样本的 loss 量级与后缀长度无关,所以「配额」衡量的是覆盖面,不是梯度大小。

② 「双向联合去噪 = 偷看未来」——措辞错误。 如果部署就是同步联合去噪,未来 latent 在推理时确实存在,动作读取它不构成泄漏。真正的问题是延迟、漂移,以及「训练铺满正方形、部署只走对角线」的分布不匹配。只有当部署要跳过视频生成时(所有实时控制系统都会这么选),那条通路才变成纯负债。

③ 「混合比在把容量从策略转移到世界模型」——不准确。 两个专家的 FFN 和投影是各自独立的,不存在参数层面的零和竞争。视频分支拿到的梯度量没变,只是题目变简单了(条件更干净);动作分支拿到梯度的样本变少了。更准确的说法是训练信号分配,不是容量转移。


10 可以往哪走

按性价比排序:

  1. 补 0% partial 对照 + 按 token 配额重参数化混合比。 现在混合比是个三维单纯形,而真正影响策略的是 r=0r=0 样本的比例和一个「表征分裂」的量。如果能证明后者可以用更便宜的辅助损失替代,就能砍掉整个 partial 机制——这本身是一个完整的工作。
  2. 把 rr 从随机采样换成可学习/自适应。 60/25/15 是手调的;做成按当前 loss 或表征一致性动态调整,就从「数据构造技巧」升级成「训练策略」。
  3. 检验「表征分裂」假设。 本文给出的最强机制解释是「partial-clean 防止动作表征分裂成『当条件的码』和『当目标的码』」,但论文完全没测。可操作实验:比较「混 regime 训练」与「分 regime 训练」的动作表征(线性探针、CKA 相似度)。如果假设成立,这是比成功率高几个点更硬的贡献。
  4. 两个泄漏诊断。 ① 推理时把真值未来视频喂给动作分支,看成功率是否暴涨;② 固定 τa\tau_a 扫 τv\tau_v,看动作 loss 是否对 τv\tau_v 敏感。健康模型对两者都应不敏感。

参考