随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了

发布时间：2023-06-12

点击次数：

前段时间，Meta 发布「分割一切（SAM）」AI 模型，可以为任何图像或视频中的任何物体生成 mask，让计算机视觉（CV）领域研究者惊呼：「CV 不存在了」。之后，CV 领域掀起了一阵「二创」狂潮，一些工作陆续在分割的基础上结合目标检测、图像生成等功能，但大部分研究是基于静态图像的。

现在，一项称为「追踪一切」的新研究为动态视频中的运动估计提出了新方法，能够准确、完整地追踪物体的运动轨迹。

☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜

该研究由来自康奈尔大学、谷歌研究院和 UC 伯克利的研究者共同完成。他们联合提出了一种完整且全局一致的运动表征 OmniMotion，并提出一种新的测试时（test-time）优化方法，对视频中每个像素进行准确、完整的运动估计。

随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了

论文地址：https://arxiv.org/abs/2306.05422
项目主页：https://omnimotion.github.io/

有网友在推特上转发了这项研究，仅一天时间就收获了 3500 + 的点赞量，研究内容大受好评。

随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了

从该研究发布的 demo 看，运动追踪的效果非常好，例如追踪跳跃袋鼠的运动轨迹：

随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了

荡秋千的运动曲线：

随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了

还能交互式查看运动追踪情况：

随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了

即使物体被遮挡也能追踪运动轨迹，如狗在跑动的过程中被树遮挡：

随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了

在计算机视觉领域，常用的运动估计方法有两种：稀疏特征追踪和密集光流。但这两种方法各有缺点，稀疏特征追踪不能建模所有像素的运动；密集光流无法长时间捕获运动轨迹。

该研究提出的 OmniMotion 使用 quasi-3D 规范体积来表征视频，并通过局部空间和规范空间之间的双射（bijection）对每个像素进行追踪。这种表征能够保证全局一致性，即使在物体被遮挡的情况下也能进行运动追踪，并对相机和物体运动的任何组合进行建模。该研究通过实验表明所提方法大大优于现有 SOTA 方法。

方法概述

该研究将帧的集合与成对的噪声运动估计（例如光流场）作为输入，以形成整个视频的完整、全局一致的运动表征。然后，该研究添加了一个优化过程，使其可以用任何帧中的任何像素查询表征，以在整个视频中产生平滑、准确的运动轨迹。值得注意的是，该方法可以识别画面中的点何时被遮挡，甚至可以穿过遮挡追踪点。

omnimotion 表征

传统的运动估计方法（例如成对光流），当物体被遮挡时会失去对物体的追踪。为了在遮挡的情况下也能提供准确、一致的运动轨迹，该研究提出全局运动表征 OmniMotion。

该研究试图在没有显式动态 3D 重建的情况下准确追踪真实世界的运动。OmniMotion 表征将视频中的场景表示为规范的 3D 体积，通过局部规范双射（local-canonical bijection）映射成每个帧中的局部体积。局部规范双射被参数化为神经网络，并在不分离两者的情况下捕获相机和场景运动。基于此种方法，视频可以被视为来自固定静态相机局部体积的渲染结果。

随时随地，追踪每个像素，连遮挡都不怕的「追踪一切」视频算法来了