Tech Analysis · Robotics Foundation Models

谭捷访谈深读:机器人真正的拐点,是跨本体数据与可用的世界模型

这期访谈最值得记住的不是“Gemini Robotics 1.5 又多了一个能力”,而是一个更严格的判断:机器人基座模型还没有成为完全独立的学科,真正的跃迁要同时解决数据金字塔、跨本体迁移、实时推理、世界模型和硬件阶段性约束。模型越像通用脑,数据越必须覆盖不同身体、不同环境和不同失败。

完整覆盖 2:06:15 · 9 个内容章节 · Google DeepMind / Open X-Embodiment / Genie 公开资料交叉核验 · 本文为分析笔记,不复刻逐字稿

核心判断:所谓“机器人基座模型”,目前更像一座桥,而不是一块新大陆

谭捷把问题说得很克制:到目前为止,机器人智能主要仍借助视觉—语言模型、动作模型和强化学习的组合,尚未形成与语言模型完全平行、拥有独立数据范式和独立 scaling law 的学科。这个判断并不贬低 VLA(Vision-Language-Action,视觉—语言—动作模型),反而指出下一步的真正工作:把互联网知识、第一视角视频、仿真动作标注和机器人轨迹接成一个可迁移的经验系统。

数据不是一层

互联网数据提供语义先验,人类视频提供动作语境,仿真提供动作标签,机器人数据提供本体与任务精度。

迁移不是魔法

跨本体 transfer 的价值在于共享任务经验,但单臂到人形、夹爪到灵巧手仍有巨大的 embodiment gap。

世界模型不是视频生成

只有能响应动作、保持状态并预测后果的模型,才接近机器人需要的 world model。

我的中心推论机器人智能的瓶颈不是“有没有一个更大的脑”,而是能否把经验从一个身体迁移到另一个身体,同时保留实时性、可评估性和安全边界。跨本体数据是模型规模真正可兑现的中间层。

内容地图:从 Sim2Real 走到“正确的船”

时间章节要回答的问题
00:00–00:02中美机器人叙事为什么硅谷把机器人当成下一次大变化?
00:02–00:13图形学到机器人仿真里的角色动画,如何转化为真实世界的控制问题?
00:13–00:28基座模型与数据金字塔机器人模型是否独立?不同数据层各自解决什么问题?
00:28–00:47Gemini Robotics 1.5Thinking Trace、motion transfer 与 ER/VLA 双模型为何出现?
00:47–01:08仿真、视频与世界模型生成视频会不会替代传统仿真?什么才算世界模型?
01:08–01:17触觉与本体为什么“视觉足够”会随灵巧手出现而失效?
01:17–02:06团队、组织与预测规模、数据、人才、治理和安全如何共同决定落地节奏?

一、从图形学进入机器人:相同的是模拟,改变的是后果

谭捷的个人路径解释了为什么“仿真”会成为他的入口:动画与图形学在模拟世界里计算角色的运动,机器人则必须把类似的控制决策放回真实世界。早期他参与四足机器人的 Sim-to-Real,强化学习策略在仿真中训练,再迁移到实体机器人;这使他看到一个范式变化:从手写规则、MPC(模型预测控制)和分模块系统,走向用数据直接学习动作。

但两者不能简单等同。动画可以接受视觉上合理的结果,机器人还要面对摩擦、碰撞、延迟、传感器噪声、能耗和人的安全。仿真给出的不是“真实本身”,而是一个可重复试错的假设空间。它的价值必须由真实部署的失败排序来检验。

互联网先验
人类视频
仿真轨迹
机器人示范
跨本体训练
真实反馈

这条链条说明“合成数据还是实机数据”的二元争论不够精确。前者扩展覆盖并降低稀有事件成本,后者校准真实物理与用户后果;真正的学习闭环是用仿真提出候选经验,再用真实世界判断候选经验是否可用。

二、数据金字塔:每一层都在补另一层的盲点

访谈给出的数据金字塔可以用四层理解。底层是互联网规模的图像、视频和文本,量最大但动作标签与本体信息弱;第二层是人类第一视角或第三视角视频,带来“人如何完成任务”的自然先验;第三层是仿真数据,能够为每个动作、状态和后果提供精确标签;顶层是遥操作或真实机器人数据,质量最高、最贴近部署,却昂贵且稀缺。

层级主要贡献典型盲点适合的阶段
互联网数据物体、语言、常识、场景多样性没有动作与本体约束预训练与语义初始化
人类视频第一视角、任务顺序、动作语境人手与机器人动力学不同行为先验与任务分解
仿真数据可无限重放、精确动作标签、稀有场景物理或视觉分布偏差策略训练、RL、评测
机器人数据真实延迟、接触、硬件与安全后果采集昂贵、覆盖狭窄后训练、校准、回归

“数据多”与“数据可吸收”不是一回事。底层数据提高了模型对世界的语言和视觉理解,但动作输出需要更精确的本体条件;顶层数据能纠错,却无法单独覆盖长尾。最合理的规模化策略不是把所有层混成一个比例,而是为每一层定义它应减少的误差。

可操作的评价每新增一层数据,都要回答三个问题:它扩大了哪些状态覆盖?它暴露了哪些以前看不到的失败?它是否让真实部署的成功率、恢复率或安全下限发生可重复变化?

三、Gemini Robotics 1.5:跨本体迁移比“更长思维链”更关键

Google DeepMind 的公开介绍把 Gemini Robotics 1.5 描述为能在行动前思考、在不同机器人身体之间迁移技能的 VLA;Gemini Robotics-ER 1.5 则负责空间理解、规划、工具调用和高层任务编排。访谈中的“Thinking Trace”因此应理解为一种行动前的任务分解接口,而不是把机器人变成一个可以无限慢思考的聊天模型。

机器人推理有硬实时预算:动作周期可能只有几百毫秒到一秒,不能像桌面问答那样等待几十秒。ER 负责较慢的搜索、地图和规划,VLA 负责快速执行,是当前工程上的折中。谭捷认为这不是终局,因为语言作为中间接口会丢失一部分视觉和动作信息;长期可能要把视觉、世界状态和动作统一在一个可实时运行的模型里。

跨本体 transfer 的关键不是“零样本控制所有机器人”。它更接近:Aloha、Franka 和 Apptronik Apollo 的数据被放进一个共享表示中,某个任务在另一个身体上获得了可迁移的技能先验。单臂到双臂、夹爪到灵巧手、桌面到货架,都会重新引入自由度、相机位姿、接触方式和安全边界,不能把演示视频的迁移等同于通用机器人已经诞生。

迁移的收益

一个身体采集的经验可以减少另一个身体的数据冷启动;模型能学习任务不变量,而不是只记住关节轨迹。

迁移的成本

动作空间、抓取器、视角、动力学和控制频率不一致时,映射本身需要数据、架构和安全校准。

四、世界模型:从“生成下一帧”到“对动作负责”

访谈中最容易被误读的一点,是把视频生成器直接叫作世界模型。一个用于机器人训练的世界模型至少需要:给定当前观测和动作,生成下一状态;对物体、接触和空间关系保持一段时间的一致性;在动作改变时产生可用于决策的反馈。静态视频模型能够生成逼真的画面,却未必能回答“如果我拉这个冰箱门,下一步需要多大力量”。

Genie 2 等公开研究展示了动作可控、可交互的虚拟环境,这为训练和评测提供了新的方向;但其当前展示的时间跨度、物理精确度和任务覆盖仍然有限。谭捷提出的简化结构“视觉和语言输入,生成下一帧视觉状态,再决定动作”,更像是从 VLA 走向世界建模的研究路线图,而不是已完成的产品架构。

失败条件若生成世界在纹理上很逼真,却不能稳定保持物体身份、接触力、遮挡关系或动作后果,训练会把视觉幻觉当成物理经验,规模越大,偏差越难查。

因此,世界模型的关键指标不应只有画面质量,还要有长期一致性、动作条件敏感性、跨场景迁移、真实失败排序和训练收益。它最终必须通过真实机器人的回放与反事实测试来证明自己不是一台漂亮的“经验制造机”。

五、触觉不是信仰问题,而是本体阶段问题

谭捷曾经相信视觉足够,是因为 ALOHA 这类桌面任务用视觉就能完成许多抓取;但当任务换成剪刀、柔性物体和灵巧手,触觉反馈马上变得重要。这个变化说明“需要哪些模态”不能脱离硬件和任务讨论:夹爪的低自由度动作可能由视觉闭环覆盖,五指手的精细接触则需要压力、滑移、力矩和材质信号。

这也解释了为什么“人形是否终局”不应只按外形下注。人形拥有丰富的训练先验和人类环境兼容性,但企业可能先在仓储、零售或工业场景选择更可靠的轮式底盘、单臂或专用末端执行器。正确的问题是:在目标场景里,哪种本体能以最低成本产生真实反馈,并把经验迁移给下一代本体。

六、从十人研究组到一百五十人的机器人组织:规模是必要条件,不是答案

访谈后半段从算法转向组织:Google 的机器人团队从小型研究组扩张为需要数据、基础设施、评测、部署和维护的“大军”。上层给出任务、时间和数据瓶颈,下层允许小团队快速试错,motion transfer 就是在这种目标约束下从局部实验成长起来的。

规模扩张带来两个相反力量。一方面,训练算力、数据采集和跨本体评测需要组织规模;另一方面,采购、法律、数据权限和人才流动的行政周期会吞噬研究速度。真正的组织优势不是“人多”,而是能把高价值实验的反馈周期压缩到人才愿意等待的范围,同时保留安全评审和失败记录。

研究问题

不把架构创新与数据覆盖分开;每个新结构必须对应可观测的失败改善。

数据基础设施

让采集、清洗、标注、跨本体映射和回归评测成为同一条生产线。

安全治理

能力增长快于安全验证时,必须有停止权、红队和明确的部署门槛。

进一步推演:五条比“VLA 还是世界模型”更有用的 Insight

  1. 跨本体是机器人规模化的“数据复用率”。 如果一个任务只能在同一台机器人上重复训练,参数规模很快被本体碎片化吞噬;跨本体表示的目标,是把数据从“某台机器的动作”提升为“任务在不同身体上的约束”。
  2. 实时性是机器人推理的第一性约束。 语言接口方便解释和规划,却可能增加 token、延迟和模态混淆;真正的统一模型必须同时满足信息保真与动作频率。
  3. 仿真价值取决于错误排序,而不取决于逼真截图。 能否预测真实系统最容易失败的场景,比单张画面是否像真更重要。
  4. 模态需求随硬件阶段改变。 “视觉够了”可能只说明当前夹爪和任务足够简单;一旦自由度、接触与安全后果提升,触觉和力反馈会成为新的数据门槛。
  5. 组织的核心资产是反馈时间,而不是招聘人数。 大团队只有在数据、评测和部署链路压缩实验周期时才有复利;否则规模只会放大协调税。
给工程团队的建议建立跨本体回归集:同一任务在不同机械臂、夹爪、相机和环境中分别测成功、恢复、延迟和安全下限;每次新增数据或模态,都必须说明改善了哪一类失败。

边界与可证伪点

不要把嘉宾判断当作已证成的行业事实

访谈中的“二三年出现机器人 GPT 时刻”“五年工业、十年家庭”“合成数据最终胜出”等,都是个人预测。Google 的公开页面能验证模型功能、跨本体展示和 ER/VLA 分工,但不能证明所有机器人都能迁移,也不能证明内部未公开的 motion transfer 细节。

证据边界与资料索引

本文以 #121 访谈的连续逐句材料和节目章节为主,保留嘉宾的解释、预测与个人经验;公开技术资料只用于核对模型公开能力、数据集和研究方向。未公开的训练配方、motion transfer 细节、内部指标和团队规模,不当作独立事实。节目正文的说话人标签与时间点以公开逐句材料为准,本文不复刻完整转录。

证据层次:节目原始入口与逐句材料 → 官方技术资料/论文 → 本文的机制抽象与可证伪推论。公开页面与模型版本会继续更新,未来事实应以最新一手资料复核。

返回顶部 ↑