ReSync: 非同期ワールドアクションモデルにおける二つのクロックの再同期

非同期な world-action model の推論における「2つの時計」問題を扱う研究。 - 映像と行動を別スケジュールで denoise する設計では、行動が実行可能になっても根拠となる未来が未解決のままになる。 - これを two-clock view として定式化し、commitment-evidence gap を導入。 - モデル自身の sampling schedule から直接読める量で、探索で測る必要がない。 - gap が広がると候補の有用性が特定しにくくなり、候補サンプリングの効果が減り、world stream を進める効果が増す。 - 両者が交差し、有用な区間は両端で閉じている。 - ReSync はその区間内に計算を配置し、action state を保持して world のみを supported window 内で進め、その後 native denoising を再開する。

従来の world-action model は映像と行動を別スケジュールで denoise するのが標準で、最強のシステムもこの設計を採用。 - 行動を少ないステップで decode して制御を高速化し、映像は長く回して未来を鮮明に保つ。 - しかしこの設計は2つの stream を異なる時計に置き、行動が実行可能でも根拠となる未来が未解決になる問題を残す。 - 本研究はこの問題を two-clock view として形式化し、commitment-evidence gap を導入。 - gap はモデル自身の sampling schedule から直接読め、探索で測る必要がない点が新しい。 - gap が予測的であることを示し、world computation を増やせば良いわけではなく、有用な区間が両端で閉じていることを明らかにした。 - ReSync はパラメータ変更や候補比較なしでこの区間を利用する。

ReSync の肝は、非同期推論の2つの時計を揃えること。 - commitment-evidence gap をモデルの sampling schedule から直接読み、有用な計算区間を rollout 前に特定。 - その区間内で action state を保持し、world のみを supported window 内で進める。 - その後 native denoising を再開する。 - パラメータは変更せず、候補の比較も行わない。 - これにより、行動が実行可能になる前に未来の証拠を適切に進め、候補の有用性を高める。

frozen paired RoboCasa panel で検証。 - ReSync は success を 4.48 points 改善。 - 同じ計算量で world を進めずに待つ equal-compute control は変化なし。 - 同じルールが再調整なしで second benchmark と second backbone にも転移。 - これにより、world stream を進めることが有効であること、単に待つだけでは不十分であることを示した。

world computation を増やせば単純に良くなるわけではない点が議論の中心。 - 有用な区間は両端で閉じており、その両端は rollout 前に schedule から読める。 - commitment-evidence gap が広がると候補の有用性が特定しにくくなり、追加の候補サンプリングの効果が減る。 - 一方で world stream を進める効果は増す。 - 両者が交差するため、計算配分の最適点が存在する。 - ただし、他のタスクやモデルへの一般性や限界については要旨からは不明。

要旨で参照・比較されている研究は明示されていない。 - 関連手法として、world-action model、asynchronous inference、denoising schedule、RoboCasa benchmark などが挙げられる。 - 同分野の定番として、video-action joint generation や diffusion policy 関連の研究を読むと良い。 - 具体的な論文名は要旨からは不明。