任务层
完成率、超时率、返工率、跨网站迁移和长任务中断点。
2025 年 1 月,OpenAI 发布 Operator。张小珺再次邀请前 OpenAI 研究员、清华大学交叉信息研究院助理教授吴翼,从强化学习和多模态系统的角度解释:为什么一个会看屏幕、点鼠标、按键盘的模型,不只是把聊天机器人接上浏览器,而是把推理放进了一个会改变、会反馈、会失败的环境。本文先完整复原访谈,再讨论 Operator、CUA、Agent、用户数据和物理世界之间的关系。
以下按节目的推进重建原文。主持人的提问、吴翼的回答、他讲的历史故事和最后的研究建议先被连成一条叙述;这部分不是本文的独立结论。
| 时间 | 节目段落 | 主问题 |
|---|---|---|
| 00:00–11:13 | Operator 初见与节目背景 | 哪些震撼来自预期之外,Operator 真的像人吗? |
| 11:13–20:49 | O1/O3 与 Operator | 深度推理和广度/环境交互是什么关系? |
| 20:49–32:30 | CUA 的三件事 | 基础模型、数据、RL 系统如何共同造出 Agent? |
| 32:30–42:14 | Agent 历史与五级路线 | 为什么 2016 年的 Web Agent 会失败?L1 到 L5 差在哪里? |
| 42:14–54:29 | 人机协作与多 Agent | 谁来确认付款?多个 Agent 何时真正需要协作? |
| 54:29–1:02:27 | 产品、用户数据与智能 | Chatbot 的闲聊能不能提升模型智能?数据飞轮是否自动转动? |
| 1:02:27–1:12:02 | 商业化、物理世界与学术方向 | Operator 是过渡产品吗?下一步应该做什么? |
对话从一个很具体的印象开始。吴翼说,Operator 的发布一方面在预料之内:OpenAI 迟早会做多模态 GUI Agent;另一方面,真正看到 demo 仍然震撼。比如模型会先关闭网页广告,遇到退费计算问题时尝试网页操作,失败后换到计算器;它不是只把一条答案写出来,而是在屏幕上做动作、看结果、再决定下一步。张小珺由此追问:这是不是通往 AGI 的一个标志?
吴翼把 O1、O3 和 Operator 放在两个方向上比较。O1/O3 的强项是对一个问题想得更深:模型可以在没有外部交互的情况下生成更长的思维链,反复检查和修正。Operator 的变化则是把模型放进一个动态环境:它观察网页,做一次点击或输入,再得到新的页面状态,继续规划。传统问答更像开环系统,给指令后直接输出;Operator 更像闭环控制,动作改变环境,环境反馈又改变模型的上下文。
因此,吴翼认为 Operator 不是简单地延续“更长 CoT”的 O3,而更像一个多模态、会行动的 Agent 版本。它的思维链可能没有 O3 那么长,但回溯发生在动作层:点击没成功就后退,页面状态变化就重新定位。他也强调这是个人理解,不是 OpenAI 公布的内部模型命名或结构。独立入口也可能有产品原因:用户已经习惯 ChatGPT 的对话入口,把一个使用方式完全不同的浏览器 Agent 单独放出来更容易理解和迭代。
主持人接着问 CUA(Computer-Using Agent)是什么。吴翼先把传统大模型和 Agent 分开:传统模型主要输出 token,外部世界不会在生成中间主动反馈;CUA 则要形成一个循环,接收屏幕状态,思考下一步,调用鼠标或键盘,等待新的屏幕状态,再继续。它的 context 不是固定的一段文本,而是不断增长、不断改变的状态序列。
他把 Operator 的技术要点压成三件事。第一是足够好的原生多模态基础模型,能同时理解语言和屏幕视觉;第二是高质量的人类数据和任务数据,例如广告怎么关、按钮点错后怎样后退、什么时候算完成;第三是能把 RL 扩展到环境交互的训练系统。数学题只需模型连续吐 token,GUI Agent 每吐一段动作,就要有一个浏览器或操作系统模拟器返回状态。几千卡甚至上万卡并行训练时,环境调度、状态重置、延迟和资源利用率都会成为系统工程问题。
吴翼认为国内团队复刻 Operator 的路线并不神秘,因为基础模块都可理解;真正的差距在于三件事情是不是都做得足够好。他也提醒,OpenAI 把产品放出来时,很可能已经在内部打磨过一段时间,外界看到的是“可以让用户试用并收集反馈”的版本,水下还有多少训练和安全工作,不能从 demo 反推。
为了说明为什么这次看起来像技术拐点,吴翼讲了 OpenAI 的早期历史:2016 年左右,OpenAI 曾尝试让一个大型 LSTM 通过强化学习点击网页,但当时没有今天的基础模型、没有多模态模型、没有成熟的数据标注和互联网训练环境,工程成本也很高,项目最终失败。节目把十年后的 Operator 看成两块拼图终于合上:基础模型提供感知和先验,强化学习提供探索和策略,网页环境提供连续反馈。
这里的故事不是一份完整的 OpenAI 组织史,而是吴翼用来解释“为什么同一个想法在不同基础设施条件下会有完全不同结果”的个人回忆。它和节目后面反复出现的判断一致:只靠强化学习不够,只靠基础模型也不够,二者必须连同数据和环境一起准备。
主持人把 OpenAI 公开讨论过的五级路线列出来:Chatbot、Reasoners、Agents、Innovators、Organizations。吴翼用交互范围解释这五级,而不是只用模型规模解释。Chatbot 是人与模型的一问一答;Reasoner 在回答前加入内部规划和长思考;Agent 还要面对一个外部世界,读取环境变化并在没有人逐步指挥的情况下行动。
第三到第四级是他认为最大的鸿沟。指令执行可以通过验证器判断完成没有;创新则没有唯一标准答案,需要在已有知识之外提出更好的东西。第四到第五级也不一定严格按顺序:许多 Agent 可能被动组成一个组织,例如每个软件都带一个 Agent,彼此通过任务和接口交互;真正自发形成组织,则还需要更强的创造力、目标协商和长期治理。
人类为什么愿意付钱?吴翼的答案是时间被扩展了。一个可靠的 Agent 可以同时退货、报税、订行程或做研究,把一个人的单线程时间变成若干个并行任务。但这个价值有一个前提:可靠。如果 Agent 只是偶尔成功,人在确认、返工和收拾错误上花掉的时间,可能抵消所谓的时间乘数。
主持人问 Operator 如何处理自主性与人类指令的优先级。吴翼从 demo 推测,付款、下单等动作可能会触发人类确认,产品或安全团队还可能在模型外面套监控层:当系统要进行敏感动作时暂停,让人查看报告并接管。节目中没有把这部分说成一个已公开的内部训练配方,而是把它作为“产品安全层可能如何实现”的判断。
对于语言、视觉和动作的结合,他认为动作空间反而相对规整:模型先输出 thinking,再输出 click、type 等有限动作。只要格式清楚,强化学习可以在这个动作空间里探索。困难不在“会不会输出 click”,而在当前截图是否正确、动作是否改变了目标状态、失败后是否恢复,以及何时必须把控制权交给人。
多个 Agent 是否需要协作?吴翼的短期判断是否定的:如果是一个相对固定的任务,一个足够强的多模态大模型、长上下文和工具接口可能已经能独立完成;只有当被访问的网站本身也变成 Agent,或一个任务必须跨越多个自治组织时,Agent 之间的交互才会被动出现。那时网站可能为 Agent 提供专门入口,URL 和 GUI 只是过渡接口。
张小珺把问题转到数据飞轮:Chatbot 的大量聊天是否能够提升智能?吴翼明确说,闲聊通常没有足够难的任务,也没有清晰的完成信号,更多帮助的是产品舒适度、语气和偏好,而不一定提升解决难题的能力。Operator 的任务则往往带着目的:报税、订行程、退货、填表。用户是否成功完成、是否中途接管、最终是否返工,这些信号比闲聊更接近可用于 RL 的反馈。
但他随即给数据飞轮降温。推荐系统可以在用户持续点击后自动累积反馈;AI 的用户数据大部分是噪音,需要研究员从中找出真正有价值的困难任务,再清洗、组织和写入训练。产品反馈仍然是闭环,却不是可以撒手不管的自动飞轮。OpenAI 的产品团队负责收入、交付和用户体验,研究团队负责把智能往前推,这两条线在节目中被描述成相互连接但不等同。
节目最后把数字世界和物理世界分开。网页虽然有视觉、状态和动作,但它本质上仍是为人设计的数字界面;真实物理世界有连续动力学、遮挡、触觉、风险和更昂贵的试错。吴翼认为 Operator 是一个信号:OpenAI 不只想在抽象文本推理上变强,也想让模型处理视觉世界;但它还没有真正进入家庭、工厂或街道。
他预测 OpenAI 可能先在数字世界赚钱,再通过投资或合作进入物理智能,而不是亲自制造所有机器人。对人与 Agent 的长期关系,他提出两个开放问题:Agent 能否通过长期交互真正理解一个人的习惯,减少每次都写清楚指令的负担;如果整个互联网都开始使用 Agent,软件是否会同时保留给人的 GUI 和给 Agent 的直接接口。
临近结尾,吴翼把建议转给学术界:主流公司已经高度共识地投入多模态、推理、交互和 Agent,学术研究可以去做更开放、更非共识的问题,例如 Agent 之间的社会交互、个性化记忆、人的反馈应如何表达。核心不是故意绕开产业,而是避免在大公司即将完成的事情上重复投入。
原文讲解到这里。下面才进入结构化抽象、证据审计和独立判断。
Operator 把“语言模型会想”与“系统能做事”接在了一起。对话模型可以把整个任务写成一段回答;Agent 则必须在中间采取动作,接受外部反馈,承受失败和权限约束,再决定是否继续。这个差异可以写成:
乘法只是概念模型:任一环节接近零,单次 demo 再惊艳也不能自动变成生产力。Operator 的技术意义因此比“网页自动化”大,但它的商业意义也比“有一个会点网页的模型”小得多;真正需要验证的是长任务完成率、错误恢复、人工接管成本和不可逆动作的风险。
OpenAI 的官方说明把 CUA 描述为结合 GPT-4o 视觉能力与强化学习推理的模型,使用截图作为观测、鼠标键盘作为动作,通过感知—推理—行动循环处理 GUI。官方同时公开了当时的 OSWorld、WebArena 和 WebVoyager 结果,并明确说明仍处于早期阶段。这个一手材料支持“闭环 GUI Agent 已被产品化展示”,但不支持把节目中关于 O2、内部模型尺寸、2016 年团队细节、训练卡数或下一代时间表的猜测改写成官方事实。
| 节目说法 | 证据层级 | 正确读法 |
|---|---|---|
| Operator 用截图看屏幕、点击/输入并自我修正。 | OpenAI Operator/CUA 官方说明支持。 | 这是公开产品机制;具体内部训练配方仍未完全公开。 |
| 它像多模态的 Agent O1,而不是 O3。 | 吴翼的行为推断。 | 适合帮助理解深度/广度取舍,不是内部型号确认。 |
| 2016 年 Web Agent 因基础设施不足失败。 | 嘉宾个人历史叙述。 | 是解释技术条件变化的案例,不是完整项目档案。 |
| Operator 的能力可以很快被国内团队复制。 | 嘉宾判断。 | 路线可理解不等于工程、数据、安全和产品质量已被复制。 |
| 用户复杂任务数据能提升智能。 | 机制假说。 | 必须看到任务难度、完成信号、清洗流程和迁移实验。 |
网页任务的平均成功率很容易让人兴奋,但真正的产品指标应包含失败后的行为:它是否知道自己卡住了,是否会回到上一个状态,是否会重复提交,是否会留下可撤销记录,是否在需要登录、付款和验证码时及时停下。一个 70% 成功的系统,如果剩余 30% 都是可回滚的小错,可能比 90% 成功但会造成一次不可逆损失的系统更可用。
完成率、超时率、返工率、跨网站迁移和长任务中断点。
动作精度、状态识别、恢复成功率、重复动作与并发压力。
确认点、权限、审计、撤销、隐私和事故后的归因。
Operator 类系统的难点很可能不在 action token 的格式,而在环境。每一条训练轨迹都要经历截图、模型推理、动作执行、浏览器/系统响应、超时、重置和结果判断;这已经接近分布式系统。要扩大 RL,不仅要增加 GPU,还要提高环境吞吐、降低状态同步成本、处理网站变化、隔离权限并防止训练数据泄露。
这也是为什么“国内团队能不能复刻”不能只看是否有开源多模态基座。真正的复刻单位是 模型 + 任务分布 + 环境 + 评价器 + 安全控制。其中任何一个替换,都会改变模型学到的策略。
吴翼对 Chatbot 闲聊的区分很有解释力,但我会再加一层:复杂任务反馈确实更接近智能训练,却不等于天然高质量。用户可能中途接管,可能没有报告错误,可能为了赶时间接受了次优结果,也可能把模型用于极少数长尾任务。要把反馈写回训练,至少要把用户目标、模型动作、外部结果、人工接管、后续返工和长期满意拆开记录。
所以产品收入与数据价值不是二选一。用户付费让公司有资源继续研究;用户行为提供候选任务和失败分布;研究员再把其中少量高价值片段转成训练和评估。它是有人介入的闭环,不是推荐系统那种可以完全自动转动的飞轮。
GUI 仍然是一个相对规整的数字动作空间。进入物理世界后,感知、动力学、接触、延迟、损坏和人的安全都会加入环路;验证器也从“网页任务是否完成”变成“有没有造成事故、是否符合规范、是否能在异常中保持安全”。因此 Operator 是视觉—动作闭环的前奏,但不是物理智能已经解决的证明。
这期访谈最值得留下的句子不是“2025 是 Agent 元年”,而是一个判断方法:当模型开始改变环境,评价它就不能只看回答质量,而要看它如何观察、行动、恢复、请求帮助,以及谁为结果负责。
正文以 #88 的完整节目材料为主。节目关于 OpenAI 内部模型、早期项目、训练资源、国内追赶速度和未来年份的说法,按吴翼的个人回忆、推断或预测处理;公开转录中的公司名、模型名和数字可能存在识别错误。
证据顺序:节目原始材料 → OpenAI 官方产品/研究说明 → 本文分析。页面记录的是 2025 年 1 月的访谈语境;官方后续产品变化单独标注,不回写原文。