数据不是一层
互联网数据提供语义先验,人类视频提供动作语境,仿真提供动作标签,机器人数据提供本体与任务精度。
这期访谈最值得记住的不是“Gemini Robotics 1.5 又多了一个能力”,而是一个更严格的判断:机器人基座模型还没有成为完全独立的学科,真正的跃迁要同时解决数据金字塔、跨本体迁移、实时推理、世界模型和硬件阶段性约束。模型越像通用脑,数据越必须覆盖不同身体、不同环境和不同失败。
谭捷把问题说得很克制:到目前为止,机器人智能主要仍借助视觉—语言模型、动作模型和强化学习的组合,尚未形成与语言模型完全平行、拥有独立数据范式和独立 scaling law 的学科。这个判断并不贬低 VLA(Vision-Language-Action,视觉—语言—动作模型),反而指出下一步的真正工作:把互联网知识、第一视角视频、仿真动作标注和机器人轨迹接成一个可迁移的经验系统。
互联网数据提供语义先验,人类视频提供动作语境,仿真提供动作标签,机器人数据提供本体与任务精度。
跨本体 transfer 的价值在于共享任务经验,但单臂到人形、夹爪到灵巧手仍有巨大的 embodiment gap。
只有能响应动作、保持状态并预测后果的模型,才接近机器人需要的 world model。
| 时间 | 章节 | 要回答的问题 |
|---|---|---|
| 00:00–00:02 | 中美机器人叙事 | 为什么硅谷把机器人当成下一次大变化? |
| 00:02–00:13 | 图形学到机器人 | 仿真里的角色动画,如何转化为真实世界的控制问题? |
| 00:13–00:28 | 基座模型与数据金字塔 | 机器人模型是否独立?不同数据层各自解决什么问题? |
| 00:28–00:47 | Gemini Robotics 1.5 | Thinking Trace、motion transfer 与 ER/VLA 双模型为何出现? |
| 00:47–01:08 | 仿真、视频与世界模型 | 生成视频会不会替代传统仿真?什么才算世界模型? |
| 01:08–01:17 | 触觉与本体 | 为什么“视觉足够”会随灵巧手出现而失效? |
| 01:17–02:06 | 团队、组织与预测 | 规模、数据、人才、治理和安全如何共同决定落地节奏? |
谭捷的个人路径解释了为什么“仿真”会成为他的入口:动画与图形学在模拟世界里计算角色的运动,机器人则必须把类似的控制决策放回真实世界。早期他参与四足机器人的 Sim-to-Real,强化学习策略在仿真中训练,再迁移到实体机器人;这使他看到一个范式变化:从手写规则、MPC(模型预测控制)和分模块系统,走向用数据直接学习动作。
但两者不能简单等同。动画可以接受视觉上合理的结果,机器人还要面对摩擦、碰撞、延迟、传感器噪声、能耗和人的安全。仿真给出的不是“真实本身”,而是一个可重复试错的假设空间。它的价值必须由真实部署的失败排序来检验。
这条链条说明“合成数据还是实机数据”的二元争论不够精确。前者扩展覆盖并降低稀有事件成本,后者校准真实物理与用户后果;真正的学习闭环是用仿真提出候选经验,再用真实世界判断候选经验是否可用。
访谈给出的数据金字塔可以用四层理解。底层是互联网规模的图像、视频和文本,量最大但动作标签与本体信息弱;第二层是人类第一视角或第三视角视频,带来“人如何完成任务”的自然先验;第三层是仿真数据,能够为每个动作、状态和后果提供精确标签;顶层是遥操作或真实机器人数据,质量最高、最贴近部署,却昂贵且稀缺。
| 层级 | 主要贡献 | 典型盲点 | 适合的阶段 |
|---|---|---|---|
| 互联网数据 | 物体、语言、常识、场景多样性 | 没有动作与本体约束 | 预训练与语义初始化 |
| 人类视频 | 第一视角、任务顺序、动作语境 | 人手与机器人动力学不同 | 行为先验与任务分解 |
| 仿真数据 | 可无限重放、精确动作标签、稀有场景 | 物理或视觉分布偏差 | 策略训练、RL、评测 |
| 机器人数据 | 真实延迟、接触、硬件与安全后果 | 采集昂贵、覆盖狭窄 | 后训练、校准、回归 |
“数据多”与“数据可吸收”不是一回事。底层数据提高了模型对世界的语言和视觉理解,但动作输出需要更精确的本体条件;顶层数据能纠错,却无法单独覆盖长尾。最合理的规模化策略不是把所有层混成一个比例,而是为每一层定义它应减少的误差。
Google DeepMind 的公开介绍把 Gemini Robotics 1.5 描述为能在行动前思考、在不同机器人身体之间迁移技能的 VLA;Gemini Robotics-ER 1.5 则负责空间理解、规划、工具调用和高层任务编排。访谈中的“Thinking Trace”因此应理解为一种行动前的任务分解接口,而不是把机器人变成一个可以无限慢思考的聊天模型。
机器人推理有硬实时预算:动作周期可能只有几百毫秒到一秒,不能像桌面问答那样等待几十秒。ER 负责较慢的搜索、地图和规划,VLA 负责快速执行,是当前工程上的折中。谭捷认为这不是终局,因为语言作为中间接口会丢失一部分视觉和动作信息;长期可能要把视觉、世界状态和动作统一在一个可实时运行的模型里。
跨本体 transfer 的关键不是“零样本控制所有机器人”。它更接近:Aloha、Franka 和 Apptronik Apollo 的数据被放进一个共享表示中,某个任务在另一个身体上获得了可迁移的技能先验。单臂到双臂、夹爪到灵巧手、桌面到货架,都会重新引入自由度、相机位姿、接触方式和安全边界,不能把演示视频的迁移等同于通用机器人已经诞生。
一个身体采集的经验可以减少另一个身体的数据冷启动;模型能学习任务不变量,而不是只记住关节轨迹。
动作空间、抓取器、视角、动力学和控制频率不一致时,映射本身需要数据、架构和安全校准。
访谈中最容易被误读的一点,是把视频生成器直接叫作世界模型。一个用于机器人训练的世界模型至少需要:给定当前观测和动作,生成下一状态;对物体、接触和空间关系保持一段时间的一致性;在动作改变时产生可用于决策的反馈。静态视频模型能够生成逼真的画面,却未必能回答“如果我拉这个冰箱门,下一步需要多大力量”。
Genie 2 等公开研究展示了动作可控、可交互的虚拟环境,这为训练和评测提供了新的方向;但其当前展示的时间跨度、物理精确度和任务覆盖仍然有限。谭捷提出的简化结构“视觉和语言输入,生成下一帧视觉状态,再决定动作”,更像是从 VLA 走向世界建模的研究路线图,而不是已完成的产品架构。
因此,世界模型的关键指标不应只有画面质量,还要有长期一致性、动作条件敏感性、跨场景迁移、真实失败排序和训练收益。它最终必须通过真实机器人的回放与反事实测试来证明自己不是一台漂亮的“经验制造机”。
谭捷曾经相信视觉足够,是因为 ALOHA 这类桌面任务用视觉就能完成许多抓取;但当任务换成剪刀、柔性物体和灵巧手,触觉反馈马上变得重要。这个变化说明“需要哪些模态”不能脱离硬件和任务讨论:夹爪的低自由度动作可能由视觉闭环覆盖,五指手的精细接触则需要压力、滑移、力矩和材质信号。
这也解释了为什么“人形是否终局”不应只按外形下注。人形拥有丰富的训练先验和人类环境兼容性,但企业可能先在仓储、零售或工业场景选择更可靠的轮式底盘、单臂或专用末端执行器。正确的问题是:在目标场景里,哪种本体能以最低成本产生真实反馈,并把经验迁移给下一代本体。
访谈后半段从算法转向组织:Google 的机器人团队从小型研究组扩张为需要数据、基础设施、评测、部署和维护的“大军”。上层给出任务、时间和数据瓶颈,下层允许小团队快速试错,motion transfer 就是在这种目标约束下从局部实验成长起来的。
规模扩张带来两个相反力量。一方面,训练算力、数据采集和跨本体评测需要组织规模;另一方面,采购、法律、数据权限和人才流动的行政周期会吞噬研究速度。真正的组织优势不是“人多”,而是能把高价值实验的反馈周期压缩到人才愿意等待的范围,同时保留安全评审和失败记录。
不把架构创新与数据覆盖分开;每个新结构必须对应可观测的失败改善。
让采集、清洗、标注、跨本体映射和回归评测成为同一条生产线。
能力增长快于安全验证时,必须有停止权、红队和明确的部署门槛。
访谈中的“二三年出现机器人 GPT 时刻”“五年工业、十年家庭”“合成数据最终胜出”等,都是个人预测。Google 的公开页面能验证模型功能、跨本体展示和 ER/VLA 分工,但不能证明所有机器人都能迁移,也不能证明内部未公开的 motion transfer 细节。
本文以 #121 访谈的连续逐句材料和节目章节为主,保留嘉宾的解释、预测与个人经验;公开技术资料只用于核对模型公开能力、数据集和研究方向。未公开的训练配方、motion transfer 细节、内部指标和团队规模,不当作独立事实。节目正文的说话人标签与时间点以公开逐句材料为准,本文不复刻完整转录。
证据层次:节目原始入口与逐句材料 → 官方技术资料/论文 → 本文的机制抽象与可证伪推论。公开页面与模型版本会继续更新,未来事实应以最新一手资料复核。