R²-WAM
What Visual Representations Do World Action Models Need?
同一份 DINOv3 特征,换一种注入方式能差 10 个点;而只把特征当输入只能涨 1.8,逼模型预测未来特征才涨 7.2。这篇论文的结论是:注入方式和预测目标比「选哪个编码器」更值钱。
在与 Agent 的多轮深度刨根问底中搞懂模型机制,沉淀个人认知记录与技术精要。
What Visual Representations Do World Action Models Need?
同一份 DINOv3 特征,换一种注入方式能差 10 个点;而只把特征当输入只能涨 1.8,逼模型预测未来特征才涨 7.2。这篇论文的结论是:注入方式和预测目标比「选哪个编码器」更值钱。