游客发表
在 AI 视频生成领域,最适座模中国一个长期存在的合机痛点是物理常识的缺失。
你是器人否见过这样的画面:水从杯中倒出却像果冻般悬浮?手未触碰抽屉,抽屉却自行滑开?频基对普通观众而言,这仅是型被视觉上的“穿帮”;但对于正在学习动作的机器人而言,这却是团队致命的误导。
若将此类视频作为训练数据喂给具身智能大模型,开源模型会将“生成失误”误读为“物理规律”,最适座模中国从而习得错误的合机因果逻辑——即“无需接触即可移动物体”。
这正是器人当前视频生成行业的尴尬现状:过去两年,从 Sora 到 Veo,频基头部玩家竞相追求画质、型被时长与美学,团队却忽视了物理一致性。开源一段 4K 高清视频可能连“物体不会凭空消失”这一基本常识都无法保证。最适座模中国
视频生成的下一阶段,正从单一的“内容创作”分化为两条路径:
1. 服务创作:追求极致的视觉表达与美学。
2. 服务机器人:作为理解与预测物理世界的工具。
蚂蚁灵波(Ant Lingbo)选择了后者,并正式开源了 LingBot-Video。这是一个专为具身智能设计的视频生成基座模型,采用 DiT(Diffusion Transformer)预训练范式,旨在解决机器人训练中的核心难题。
通用视频模型侧重于画面变化、镜头运动及视觉风格;而 LingBot-Video聚焦于动作、任务、交互及物理环境变化。它面向世界预测、动作理解及机器人训练,构建了全新的视频生成基座。
围绕这一目标,蚂蚁灵波在架构、数据、训练三个层面进行了系统性创新:
引入混合专家(Mixture of Experts, MoE)机制,支持动态稀疏激活。
* 优势:在扩展模型容量以建模复杂时空动态的同时,显著提升推理效率。
* 设计:在 Single-Stream DiT 基础上,将 Dense FFN 替换为 Token-choice Sparse MoE 层,借鉴 DeepSeekMoE 思路,划分共享专家(通用先验)与路由专家(专门化模式),减少任务干扰。
构建互联网规模视频与机器人操作、导航、第一人称视角(Ego-centric)数据集的融合语料库。
* 注入先验:向模型注入明确的具身先验和交互先验。
* 结构化处理:通过 Data Profiling Engine 和 World-Knowledge Topological Graph,将非结构化视频转化为可检索、筛选的结构化资产,并生成层级化文本描述以提供细粒度语义监督。
在审美目标之外,纳入物理合理性和任务成功信号。
* 多维奖励:包括视觉质量、文本-视频对齐、动态程度、运动连贯性、人体运动一致性及物理合理性。
* 强化学习:使用 GRPO(Group Relative Policy Optimization)最大化多维奖励,确保模型生成的视频符合物理世界规律。
具身智能亟需介于“真实采集”与“仿真”之间的能力:
* 具备视频模型的生成规模。
* 严格遵守真实物理世界的约束。
* 生成的内容不仅是“像视频”,更是“真实动作后的结果”。
LingBot-Video 通过学习海量视频和具身数据,掌握“动作之后会发生什么”(如门推开后的空间变化、物体被抓起后的状态变化),从而成为机器人训练中的数据生成器、策略评估器及动作规划器。
视频生成涉及空间纹理、时间运动、流体变化等复杂因素。传统 Dense 模型所有 Token 共享同一套 FFN 参数,易导致任务干扰。
* MoE 机制:通过路由机制,让 Token 选择部分专家参与计算。
* 效果:扩大总参数容量以容纳更多物理先验,同时控制每个 Token 的实际激活计算量,避免推理成本线性暴涨。
蚂蚁灵波构建了集成化数据基础设施,实施五阶段训练策略:
| 阶段 | 分辨率 | 数据内容 | 目标 |
|---|---|---|---|
| Stage 1 | 192p | 图像 | 学习基础视觉先验 |
| Stage 2 | 192p | 视频 + 7万+小时具身视频 | 注入机器人操作、导航、第一人称视角等具身先验 |
| Stage 3 | 480p | 图像 + 视频 | 提升分辨率,筛选高运动量视频,增强动态覆盖 |
| Stage 4 | 480p | 源感知重平衡 | 严格过滤普通视频,保留稀缺高价值具身数据 |
| Stage 5 | 1080p | 高质量精修子集 | 训练 Refiner,提升高分辨率细节 |
摒弃单一的人类偏好评分,设计六类多维奖励:
LingBot-Video 使视频模型从“内容生产工具”升级为“机器人大脑的基础能力层”,承担三大角色:
团队在内部 Benchmark 上对 LingBot-Video 进行了全面评估,涵盖通用质量与具身领域,对比 NVIDIA Cosmos 3、Wan 2.2、LongCat-Video、Hunyuan Video 1.5 及 LTX-2.3。
蚂蚁灵波开源 LingBot-Video,不仅是技术的输出,更是范式的开放。
坦诚面对挑战:
尽管取得了突破,但长时序一致性、柔性物体/液体复杂物理交互建模、视频预测与真实控制策略的闭环,以及具身视频评测标准的建立,仍是待解之谜。
LingBot-Video 选择了一条艰难但正确的路:让视频模型从“好看”走向“有用”,从“内容生成”走向“物理世界理解”。这不仅是一个模型的开源,更是整个研究社区共同探索具身智能未来的起点。
资源链接:
* 项目主页:technology.robbyant.com/lingbot-video
* GitHub:github.com/robbyant/lingbot-video
* Hugging Face:huggingface.co/robbyant/lingbot-video
* ModelScope:ModelScope Collection
随机阅读
热门排行
友情链接