6616AI

机器人训练新方法:拍一段视频就能自动生成无数训练场景?

2026-07-06

很多朋友可能听说过,训练机器人需要大量真实数据——让机器人在真实世界里反复操作,费钱又费时间。最近,英伟达联合李飞飞团队、佐治亚理工大学等机构发布了一个新系统,叫SimFoundry,它解决了这个问题。

简单来说: 你只需要拍一段普通视频(比如一个机器人手臂在桌子上移动东西),SimFoundry就能自动把这个场景变成电脑里的3D仿真环境,机器人可以在这个虚拟世界里不断训练。而且,它还能自动替换里面的物体、调整位置、生成新的任务——一段视频能变出成千上万种不同的训练场景,不用你再手动建模。

它是怎么做到的?

整个过程分三步:

  1. 理解真实场景:系统先分析视频,把里面的每个物体(杯子、抽屉、桌子等)都识别出来,并知道它们的位置和形状。
  2. 建造数字双胞胎:把这些物体变成电脑里的3D模型,加上物理属性(比如重量、摩擦力),做成一个可以交互的仿真环境。这个环境跟真实场景一模一样,叫“数字孪生”。
  3. 批量创造变体:这是最厉害的一步。系统会自动生成很多“数字表亲”——比如把杯子换成碗但功能不变,或者把物体移动到其他位置,甚至根据物体的功能生成新的任务(比如“打开抽屉”或“拿起杯子”)。这样,一个真实视频就能扩展出几乎无限的训练场景。

效果怎么样?

实验显示,在SimFoundry的虚拟世界里测试机器人,结果跟真实世界非常接近(匹配度高达0.911)。而且,用系统自动生成的数据训练出来的机器人,直接放到真实环境里也能成功完成任务,成功率接近满分。

谁做的?

这篇论文的作者团队非常强,包括英伟达GEAR实验室、李飞飞团队、斯坦福大学、UT Austin等机构的科学家。第一作者是佐治亚理工学院的Nadun Ranawaka Arachchige,目前在英伟达实习。

总之,SimFoundry让机器人训练变得更便宜、更高效——以后可能拍一段视频就能让机器人学会新本领了。