Podcast Interview · OpenAI · Computer-Using Agent

#88 吴翼:Operator 不是“会点网页”,而是推理进入闭环

2025 年 1 月,OpenAI 发布 Operator。张小珺再次邀请前 OpenAI 研究员、清华大学交叉信息研究院助理教授吴翼,从强化学习和多模态系统的角度解释:为什么一个会看屏幕、点鼠标、按键盘的模型,不只是把聊天机器人接上浏览器,而是把推理放进了一个会改变、会反馈、会失败的环境。本文先完整复原访谈,再讨论 Operator、CUA、Agent、用户数据和物理世界之间的关系。

完整覆盖 1:12:02 · 21 个章节 · 吴翼/张小珺逐句映射 · 官方产品事实、嘉宾推断与本文分析分层

原文讲解:一场从网页点击到“第五级 AI”的技术对话

以下按节目的推进重建原文。主持人的提问、吴翼的回答、他讲的历史故事和最后的研究建议先被连成一条叙述;这部分不是本文的独立结论。

时间节目段落主问题
00:00–11:13Operator 初见与节目背景哪些震撼来自预期之外,Operator 真的像人吗?
11:13–20:49O1/O3 与 Operator深度推理和广度/环境交互是什么关系?
20:49–32:30CUA 的三件事基础模型、数据、RL 系统如何共同造出 Agent?
32:30–42:14Agent 历史与五级路线为什么 2016 年的 Web Agent 会失败?L1 到 L5 差在哪里?
42:14–54:29人机协作与多 Agent谁来确认付款?多个 Agent 何时真正需要协作?
54:29–1:02:27产品、用户数据与智能Chatbot 的闲聊能不能提升模型智能?数据飞轮是否自动转动?
1:02:27–1:12:02商业化、物理世界与学术方向Operator 是过渡产品吗?下一步应该做什么?

对话从一个很具体的印象开始。吴翼说,Operator 的发布一方面在预料之内:OpenAI 迟早会做多模态 GUI Agent;另一方面,真正看到 demo 仍然震撼。比如模型会先关闭网页广告,遇到退费计算问题时尝试网页操作,失败后换到计算器;它不是只把一条答案写出来,而是在屏幕上做动作、看结果、再决定下一步。张小珺由此追问:这是不是通往 AGI 的一个标志?

一、O1/O3 在“脑内变深”,Operator 在“世界里变宽”

吴翼把 O1、O3 和 Operator 放在两个方向上比较。O1/O3 的强项是对一个问题想得更深:模型可以在没有外部交互的情况下生成更长的思维链,反复检查和修正。Operator 的变化则是把模型放进一个动态环境:它观察网页,做一次点击或输入,再得到新的页面状态,继续规划。传统问答更像开环系统,给指令后直接输出;Operator 更像闭环控制,动作改变环境,环境反馈又改变模型的上下文。

因此,吴翼认为 Operator 不是简单地延续“更长 CoT”的 O3,而更像一个多模态、会行动的 Agent 版本。它的思维链可能没有 O3 那么长,但回溯发生在动作层:点击没成功就后退,页面状态变化就重新定位。他也强调这是个人理解,不是 OpenAI 公布的内部模型命名或结构。独立入口也可能有产品原因:用户已经习惯 ChatGPT 的对话入口,把一个使用方式完全不同的浏览器 Agent 单独放出来更容易理解和迭代。

二、CUA 的核心:截图、推理、动作、再截图

主持人接着问 CUA(Computer-Using Agent)是什么。吴翼先把传统大模型和 Agent 分开:传统模型主要输出 token,外部世界不会在生成中间主动反馈;CUA 则要形成一个循环,接收屏幕状态,思考下一步,调用鼠标或键盘,等待新的屏幕状态,再继续。它的 context 不是固定的一段文本,而是不断增长、不断改变的状态序列。

用户目标
告诉模型要完成什么
截图观测
当前网页/桌面状态
推理规划
选择下一步
鼠标键盘
点击、输入、滚动
新反馈
状态发生变化
纠错/接管
继续或交给人

他把 Operator 的技术要点压成三件事。第一是足够好的原生多模态基础模型,能同时理解语言和屏幕视觉;第二是高质量的人类数据和任务数据,例如广告怎么关、按钮点错后怎样后退、什么时候算完成;第三是能把 RL 扩展到环境交互的训练系统。数学题只需模型连续吐 token,GUI Agent 每吐一段动作,就要有一个浏览器或操作系统模拟器返回状态。几千卡甚至上万卡并行训练时,环境调度、状态重置、延迟和资源利用率都会成为系统工程问题。

吴翼认为国内团队复刻 Operator 的路线并不神秘,因为基础模块都可理解;真正的差距在于三件事情是不是都做得足够好。他也提醒,OpenAI 把产品放出来时,很可能已经在内部打磨过一段时间,外界看到的是“可以让用户试用并收集反馈”的版本,水下还有多少训练和安全工作,不能从 demo 反推。

三、从 2016 年失败的 Web Agent 到 2025 年的闭环

为了说明为什么这次看起来像技术拐点,吴翼讲了 OpenAI 的早期历史:2016 年左右,OpenAI 曾尝试让一个大型 LSTM 通过强化学习点击网页,但当时没有今天的基础模型、没有多模态模型、没有成熟的数据标注和互联网训练环境,工程成本也很高,项目最终失败。节目把十年后的 Operator 看成两块拼图终于合上:基础模型提供感知和先验,强化学习提供探索和策略,网页环境提供连续反馈。

这里的故事不是一份完整的 OpenAI 组织史,而是吴翼用来解释“为什么同一个想法在不同基础设施条件下会有完全不同结果”的个人回忆。它和节目后面反复出现的判断一致:只靠强化学习不够,只靠基础模型也不够,二者必须连同数据和环境一起准备。

四、五级路线:从反应,到推理,再到组织

主持人把 OpenAI 公开讨论过的五级路线列出来:Chatbot、Reasoners、Agents、Innovators、Organizations。吴翼用交互范围解释这五级,而不是只用模型规模解释。Chatbot 是人与模型的一问一答;Reasoner 在回答前加入内部规划和长思考;Agent 还要面对一个外部世界,读取环境变化并在没有人逐步指挥的情况下行动。

第三到第四级是他认为最大的鸿沟。指令执行可以通过验证器判断完成没有;创新则没有唯一标准答案,需要在已有知识之外提出更好的东西。第四到第五级也不一定严格按顺序:许多 Agent 可能被动组成一个组织,例如每个软件都带一个 Agent,彼此通过任务和接口交互;真正自发形成组织,则还需要更强的创造力、目标协商和长期治理。

人类为什么愿意付钱?吴翼的答案是时间被扩展了。一个可靠的 Agent 可以同时退货、报税、订行程或做研究,把一个人的单线程时间变成若干个并行任务。但这个价值有一个前提:可靠。如果 Agent 只是偶尔成功,人在确认、返工和收拾错误上花掉的时间,可能抵消所谓的时间乘数。

五、行动权限:自主决策必须嵌在产品和安全边界里

主持人问 Operator 如何处理自主性与人类指令的优先级。吴翼从 demo 推测,付款、下单等动作可能会触发人类确认,产品或安全团队还可能在模型外面套监控层:当系统要进行敏感动作时暂停,让人查看报告并接管。节目中没有把这部分说成一个已公开的内部训练配方,而是把它作为“产品安全层可能如何实现”的判断。

对于语言、视觉和动作的结合,他认为动作空间反而相对规整:模型先输出 thinking,再输出 click、type 等有限动作。只要格式清楚,强化学习可以在这个动作空间里探索。困难不在“会不会输出 click”,而在当前截图是否正确、动作是否改变了目标状态、失败后是否恢复,以及何时必须把控制权交给人。

多个 Agent 是否需要协作?吴翼的短期判断是否定的:如果是一个相对固定的任务,一个足够强的多模态大模型、长上下文和工具接口可能已经能独立完成;只有当被访问的网站本身也变成 Agent,或一个任务必须跨越多个自治组织时,Agent 之间的交互才会被动出现。那时网站可能为 Agent 提供专门入口,URL 和 GUI 只是过渡接口。

六、用户数据为什么可能对 Operator 更有价值

张小珺把问题转到数据飞轮:Chatbot 的大量聊天是否能够提升智能?吴翼明确说,闲聊通常没有足够难的任务,也没有清晰的完成信号,更多帮助的是产品舒适度、语气和偏好,而不一定提升解决难题的能力。Operator 的任务则往往带着目的:报税、订行程、退货、填表。用户是否成功完成、是否中途接管、最终是否返工,这些信号比闲聊更接近可用于 RL 的反馈。

但他随即给数据飞轮降温。推荐系统可以在用户持续点击后自动累积反馈;AI 的用户数据大部分是噪音,需要研究员从中找出真正有价值的困难任务,再清洗、组织和写入训练。产品反馈仍然是闭环,却不是可以撒手不管的自动飞轮。OpenAI 的产品团队负责收入、交付和用户体验,研究团队负责把智能往前推,这两条线在节目中被描述成相互连接但不等同。

七、Operator 到物理世界只伸出了一只手

节目最后把数字世界和物理世界分开。网页虽然有视觉、状态和动作,但它本质上仍是为人设计的数字界面;真实物理世界有连续动力学、遮挡、触觉、风险和更昂贵的试错。吴翼认为 Operator 是一个信号:OpenAI 不只想在抽象文本推理上变强,也想让模型处理视觉世界;但它还没有真正进入家庭、工厂或街道。

他预测 OpenAI 可能先在数字世界赚钱,再通过投资或合作进入物理智能,而不是亲自制造所有机器人。对人与 Agent 的长期关系,他提出两个开放问题:Agent 能否通过长期交互真正理解一个人的习惯,减少每次都写清楚指令的负担;如果整个互联网都开始使用 Agent,软件是否会同时保留给人的 GUI 和给 Agent 的直接接口。

临近结尾,吴翼把建议转给学术界:主流公司已经高度共识地投入多模态、推理、交互和 Agent,学术研究可以去做更开放、更非共识的问题,例如 Agent 之间的社会交互、个性化记忆、人的反馈应如何表达。核心不是故意绕开产业,而是避免在大公司即将完成的事情上重复投入。

原文讲解到这里。下面才进入结构化抽象、证据审计和独立判断。

核心判断:Agent 的新意不在“能调用工具”,而在环境成为模型状态的一部分

Operator 把“语言模型会想”与“系统能做事”接在了一起。对话模型可以把整个任务写成一段回答;Agent 则必须在中间采取动作,接受外部反馈,承受失败和权限约束,再决定是否继续。这个差异可以写成:

Agent 可靠性 ≈ 感知 × 规划 × 动作 × 环境反馈 × 安全边界

乘法只是概念模型:任一环节接近零,单次 demo 再惊艳也不能自动变成生产力。Operator 的技术意义因此比“网页自动化”大,但它的商业意义也比“有一个会点网页的模型”小得多;真正需要验证的是长任务完成率、错误恢复、人工接管成本和不可逆动作的风险。

证据审计:官方 CUA 能确认什么,嘉宾哪些话仍是推断

OpenAI 的官方说明把 CUA 描述为结合 GPT-4o 视觉能力与强化学习推理的模型,使用截图作为观测、鼠标键盘作为动作,通过感知—推理—行动循环处理 GUI。官方同时公开了当时的 OSWorld、WebArena 和 WebVoyager 结果,并明确说明仍处于早期阶段。这个一手材料支持“闭环 GUI Agent 已被产品化展示”,但不支持把节目中关于 O2、内部模型尺寸、2016 年团队细节、训练卡数或下一代时间表的猜测改写成官方事实。

节目说法证据层级正确读法
Operator 用截图看屏幕、点击/输入并自我修正。OpenAI Operator/CUA 官方说明支持。这是公开产品机制;具体内部训练配方仍未完全公开。
它像多模态的 Agent O1,而不是 O3。吴翼的行为推断。适合帮助理解深度/广度取舍,不是内部型号确认。
2016 年 Web Agent 因基础设施不足失败。嘉宾个人历史叙述。是解释技术条件变化的案例,不是完整项目档案。
Operator 的能力可以很快被国内团队复制。嘉宾判断。路线可理解不等于工程、数据、安全和产品质量已被复制。
用户复杂任务数据能提升智能。机制假说。必须看到任务难度、完成信号、清洗流程和迁移实验。
版本边界节目在 2025 年 1 月讨论的是 Operator 研究预览。OpenAI 后续页面注明,2025 年 7 月 Operator 能力已整合进 ChatGPT 的 agent mode;这属于节目之后的产品演进,不能倒灌成嘉宾当时已经知道的事实。

独立分析:把 Agent 当作控制系统,而不是更聪明的聊天框

1. 可靠性来自“可恢复”,不只来自“成功率”

网页任务的平均成功率很容易让人兴奋,但真正的产品指标应包含失败后的行为:它是否知道自己卡住了,是否会回到上一个状态,是否会重复提交,是否会留下可撤销记录,是否在需要登录、付款和验证码时及时停下。一个 70% 成功的系统,如果剩余 30% 都是可回滚的小错,可能比 90% 成功但会造成一次不可逆损失的系统更可用。

任务层

完成率、超时率、返工率、跨网站迁移和长任务中断点。

控制层

动作精度、状态识别、恢复成功率、重复动作与并发压力。

责任层

确认点、权限、审计、撤销、隐私和事故后的归因。

2. 训练系统其实是一个模拟器与服务编排系统

Operator 类系统的难点很可能不在 action token 的格式,而在环境。每一条训练轨迹都要经历截图、模型推理、动作执行、浏览器/系统响应、超时、重置和结果判断;这已经接近分布式系统。要扩大 RL,不仅要增加 GPU,还要提高环境吞吐、降低状态同步成本、处理网站变化、隔离权限并防止训练数据泄露。

这也是为什么“国内团队能不能复刻”不能只看是否有开源多模态基座。真正的复刻单位是 模型 + 任务分布 + 环境 + 评价器 + 安全控制。其中任何一个替换,都会改变模型学到的策略。

3. 用户数据是半自动闭环,不是自然飞轮

吴翼对 Chatbot 闲聊的区分很有解释力,但我会再加一层:复杂任务反馈确实更接近智能训练,却不等于天然高质量。用户可能中途接管,可能没有报告错误,可能为了赶时间接受了次优结果,也可能把模型用于极少数长尾任务。要把反馈写回训练,至少要把用户目标、模型动作、外部结果、人工接管、后续返工和长期满意拆开记录。

有效训练信号 = 任务难度 × 结果可观测性 × 归因清晰度 × 可重复性

所以产品收入与数据价值不是二选一。用户付费让公司有资源继续研究;用户行为提供候选任务和失败分布;研究员再把其中少量高价值片段转成训练和评估。它是有人介入的闭环,不是推荐系统那种可以完全自动转动的飞轮。

4. 从数字 Agent 到物理 Agent,真正增加的是后果

GUI 仍然是一个相对规整的数字动作空间。进入物理世界后,感知、动力学、接触、延迟、损坏和人的安全都会加入环路;验证器也从“网页任务是否完成”变成“有没有造成事故、是否符合规范、是否能在异常中保持安全”。因此 Operator 是视觉—动作闭环的前奏,但不是物理智能已经解决的证明。

5. 后续如何证伪或修正

这期访谈最值得留下的句子不是“2025 是 Agent 元年”,而是一个判断方法:当模型开始改变环境,评价它就不能只看回答质量,而要看它如何观察、行动、恢复、请求帮助,以及谁为结果负责。

证据边界与资料索引

正文以 #88 的完整节目材料为主。节目关于 OpenAI 内部模型、早期项目、训练资源、国内追赶速度和未来年份的说法,按吴翼的个人回忆、推断或预测处理;公开转录中的公司名、模型名和数字可能存在识别错误。

证据顺序:节目原始材料 → OpenAI 官方产品/研究说明 → 本文分析。页面记录的是 2025 年 1 月的访谈语境;官方后续产品变化单独标注,不回写原文。

回到顶部 ↑