LingBot-Video快速摘要
LingBot-Video是蚂蚁集团旗下蚂蚁灵波科技于2026年7月9日开源发布的具身智能视频生成基础模型,采用DiT与MoE融合架构,支持文本生成视频、图像生成视频、动作条件视频预测等能力,适用于机器人训练、世界模型研究、仿真数据生成和视频内容生成等场景。
- 模型名称:LingBot-Video
- 开发公司:蚂蚁灵波科技(Ant LingBot)
- 发布时间:2026年7月9日开源发布
- 主要功能:文本生成视频、图像生成视频、动作条件视频预测、视频优化增强
- 使用要求:支持Diffusers框架与SGLang推理部署,需要较高显存资源
- 开源情况:Apache 2.0许可证开源,模型权重与代码已公开
- 适用场景:机器人训练、世界模型、仿真环境、视频内容生成
- 技术特点:DiT+MoE架构,30B总参数仅激活约3B参数,据官方发布数据显示推理效率约提升3倍
- 训练数据:融合互联网视频与超过70000小时具身智能数据,据2026年官方发布说明
- 价格:开源模型免费下载使用,部署成本取决于GPU硬件配置

LingBot-Video的核心优势
- MoE稀疏计算:采用30B参数MoE架构,推理时仅激活约3B参数参与计算,在保持生成质量的同时降低算力消耗,推理效率较同规模稠密模型提升约3倍。
- 具身数据训练:训练数据包含超过70000小时机器人操作与导航视频,强化模型对动作轨迹、环境变化和物理规律的理解能力,更适合智能体训练场景。
- 物理一致性更强:训练阶段引入物理合理性和任务完成度奖励机制,在RBench机器人视频评测中取得0.620成绩,高于Wan2.6的0.607。
- 支持世界模型:不仅能够生成视频,还能根据动作条件预测未来状态变化,可用于机器人规划、环境模拟和智能体决策研究。
- 完全开源生态:模型权重、代码和推理方案全部开放,支持Diffusers生态集成,便于开发者微调训练和构建垂直行业应用。
LingBot-Video的主要功能
- 文本生成视频:输入自然语言描述即可生成视频,例如输入“机器人整理桌面”,输出对应动作过程视频,适用于内容创作和仿真测试。
- 图片生成视频:上传单张图片作为起始画面,模型自动推演后续动作和场景变化,生成连续动态视频内容。
- 动作条件预测:支持输入机器人动作轨迹作为条件,预测未来环境状态和执行结果,可用于机器人策略验证。
- 视频增强优化:通过Refinement模块改善画面细节、运动连续性和结构稳定性,减少闪烁和动作漂移问题。
- 提示词优化:提供提示词重写组件,可自动补充场景信息、动作描述和环境约束,提高视频生成稳定性。
LingBot-Video的技术原理
- DiT视频架构:基于Diffusion Transformer实现视频生成,通过扩散去噪过程逐步构建连续画面和动作序列。
- MoE专家网络:采用专家路由机制动态选择计算模块,在扩大参数规模的同时控制推理成本和显存占用。
- 多源数据训练:融合互联网视频与机器人视频数据,使模型同时具备视觉生成能力和动作理解能力。
- 奖励模型优化:通过美学质量、物理合理性和任务完成度等指标进行强化训练,提高视频真实性。
- 动作视频联合建模:将机器人动作轨迹与视频变化统一编码,实现动作驱动的视频预测和世界模型模拟。
LingBot-Video与主流模型对比
| 对比维度 | LingBot-Video | NVIDIA Cosmos 3 Super |
|---|
| 研发背景 | 蚂蚁灵波科技(Robbyant)2026年开源发布,定位具身智能视频基础模型 | NVIDIA于2026年6月发布,定位物理AI与机器人训练世界模型 |
| 技术架构 | 基于DiT的Single-Stream Sparse MoE架构 | Mixture-of-Transformers(MoT)架构 |
| 参数规模 | 30B总参数,推理激活约3B参数 | 64B总参数(Super版本) |
| 模态支持 | 文本、图像、视频、动作条件 | 文本、图像、视频、音频、动作序列 |
| 训练数据 | 7万小时互联网视频与机器人具身数据 | 20万亿Token,包含约10亿图像、4亿视频及音频数据 |
| 开源情况 | 模型权重、代码和技术报告全部开源 | 基于OpenMDW 1.1协议开放模型权重与代码 |
| RBench成绩 | 0.620 | 0.581 |
| Physics-IQ表现 | Physics-IQ Verified榜单排名第一 | I2V得分43.8,V2V得分59.7 |
| 推理效率 | 仅激活3B参数,推理效率约为同规模Dense模型3倍 | 64B全参数激活,Nano版本提供轻量化方案 |
| 适用场景 | 机器人训练、智能体仿真、世界模型研究 | 机器人、自动驾驶、数字孪生、物理AI训练 |
LingBot-Video和NVIDIA Cosmos 3 Super均面向具身智能与世界模型领域。前者采用30B-A3B Sparse MoE架构,在RBench测试中获得0.620分,更侧重机器人训练、动作预测和智能体仿真;后者采用64B MoT架构,支持音频、视频和动作等全模态输入,在世界模型和物理AI场景覆盖范围更广。两者分别代表具身智能视频模型与全模态世界模型两条技术路线。
如何使用LingBot-Video
- 下载模型:获取官方开源权重和代码,建议准备24GB以上显存环境进行部署测试。
- 安装环境:配置Python、PyTorch、CUDA和Diffusers组件,完成依赖安装后加载模型。
- 设置参数:输入提示词或参考图片,设置视频长度、分辨率和采样步数等参数。
- 执行生成:启动推理任务生成视频,机器人场景建议加入动作描述提升生成效果。
- 优化结果:使用Refinement模块进行二次增强,提高画面细节和动作连续性表现。
LingBot-Video的局限性
- 影视创作能力有限:模型主要面向机器人和世界模型训练,在电影级画质和艺术表现方面仍落后部分闭源视频模型。
- 硬件需求较高:30B级参数规模对GPU显存要求较高,中小团队部署成本相对较高。
- 真实机器人验证较少:目前公开成果主要来自仿真和基准测试,真实大规模机器人部署案例仍然有限。
LingBot-Video相关资源
- 官网产品页:LingBot-Video
- GitHub仓库:https://github.com/Robbyant/lingbot-video
- HuggingFace模型库:https://huggingface.co/collections/robbyant/lingbot-video
- arXiv技术论文:https://arxiv.org/pdf/2607.07675
LingBot-Video的典型应用场景
- 机器人训练:输入机器人任务和动作轨迹,生成执行过程视频,辅助训练智能体控制模型。
- 仿真数据生成:批量生成机器人操作视频数据,降低真实采集成本并提升训练效率。
- 世界模型研究:根据当前环境和动作预测未来状态,为强化学习和规划算法提供支持。
- 工业流程模拟:生成自动化设备运行过程视频,验证生产方案和机器人部署效果。
- 科研教学演示:将实验参数转化为可视化视频,方便展示机器人和智能体研究成果。
LingBot-Video常见问题
LingBot-Video怎么用?
LingBot-Video通过开源代码部署使用,完成PyTorch和Diffusers环境配置后即可运行。建议先使用官方示例测试硬件兼容性,并根据显存资源选择合适参数配置。
LingBot-Video免费吗?
LingBot-Video采用Apache 2.0许可证开源发布,模型权重和代码可免费下载使用。实际成本主要来自GPU算力、存储资源和推理服务器部署费用。
LingBot-Video和NVIDIA Cosmos 3 Super哪个好?
LingBot-Video更适合机器人训练和智能体仿真,RBench得分0.620;Cosmos 3 Super支持更多模态,适合构建通用世界模型平台。
LingBot-Video支持实时生成吗?
当前公开版本主要面向离线推理和动作预测任务,尚未发布成熟实时流式生成方案,实时应用需自行评估推理延迟。
LingBot-Video有API吗?
目前主要提供开源模型和推理代码,尚未推出统一商业API服务。开发者可自行部署推理服务并封装API接口供业务调用。
郑重声明:本站发布内容宗旨在传播更多信息,仅提供查阅,与本站立场无关,不拥有所有权,不承担相关法律责任。不具有任何效益,仅供参考。如果需要专业知识建议,请咨询相关专业人士。如有侵权请联系邮箱。一经查实,立即删除!