一、开场先定调:o1 不是路线转弯,而是把“学”接上“思”
节目前几十秒先提到 OpenAI 早期的权力风波和强化学习研究者加入,随后主持人把背景补完整:前两集节目分别讨论了 o1 的预言和技术解析,这一期想听一个更早关注强化学习、也已经创业做模型的人的判断。王小川在创业开始就把两条路线放在一起说:大模型代表“快思考”,它读了很多东西后迅速给出一个答案;强化学习代表“慢思考”,它要在环境中行动、得到反馈,再形成一条可复用的思路。
因此,节目一开始就排除了一个常见理解:o1 不是模型能力先前进、后来退步,也不是从大模型突然转到另一个完全不同的方向。王小川的说法是,快思考是慢思考的基础。模型先要有足够强的语言能力,才能把多步推理、搜索和验证接到语言系统上;真正发生的是从“只会说”走向“会想一段时间再说”。他把这件事概括为“学”和“思”最终融合。
二、为什么需要慢思考:从信息、知识走向智慧
主持人问 o1 能解决什么。王小川借用 DIKW 框架解释:搜索主要解决 Data/Information 的获得,大语言模型把信息组织成 Knowledge,并通过语言完成沟通;o1 开始触碰 Wisdom 的雏形。这个比喻不是说 o1 已经拥有了人的智慧,而是说它开始把答案拆成一个过程,能够在复杂问题上先探索中间步骤,再提交结果。
对数学证明、代码、数据处理、逻辑问题而言,一拍脑袋的答案往往不够。模型需要先列出假设、尝试路径、检查中间结果,然后才给出最终答案。文学写作可以在很多时候依靠即时的语言联想,但绝大多数需要可靠性的复杂任务,都要让系统多走几步。王小川因此把“多步思考”视为智能系统的必要组成,而不是产品层面的额外装饰。
他还特别强调 o1 的两阶段结构:思考过程与最终回答被分开。一个题做对了,不等于模型掌握了可迁移的方法;如果模型形成的是一条正确的解题过程,那么这套过程可能被复用到更多题目,甚至迁移到新的领域。节目中“语言为中心、强化思维链、把过程和结果分开”是理解 o1 的三个关键词。
三、为什么 OpenAI 隐藏思维链:商业竞争和数据蒸馏
主持人接着问,既然思考过程如此重要,为什么 OpenAI 不把它完整展示出来,甚至对试图破解过程的人发出封号警告。王小川给出的第一层解释是商业竞争:过去各家模型的输出可以被拿去蒸馏,竞争者通过大量模仿迅速接近原模型。如果 o1 公开了完整思路,别人不仅能研究它的算法,还能直接获得高价值的推理训练数据。
这不是一个“OpenAI 不愿意分享知识”的单一道德判断,而是一个商业公司的策略选择。公开答案和公开完整过程的差别很大:答案告诉你最后得到什么,过程却可能告诉你如何构造一批训练样本、如何组织搜索、如何做验证。王小川认为,o1 的独特性正依赖这些过程数据和工程闭环,所以隐藏思维链能延缓被复制。
他也没有把复刻说成不可能。复刻 o1 比复刻 GPT-4 难,难点不只是显卡数量,还包括专家标注、数据构造、训练工程和评价体系。未来如果有开源项目、人才和资本共同投入,接近它的模型可能很快出现,但达到同样高度仍需要较长的工程积累。节目中提到“一两个月出现接近模型”“GPT-4 约需更长时间、o1 约九个月”等,都是王小川当时的预测,不是已被验证的时间表。
四、监督学习和强化学习:一个教答案,一个只给对错
主持人要求把强化学习讲得更具体。王小川先用监督学习对比:监督学习告诉模型“这道题应该怎样一步一步解”,模型学习的是一条已经存在的路径;强化学习不告诉它过程,只在它行动之后判断结果对不对,让模型自己探索一条路径。这相当于教孩子背解法和让孩子自己试错的差别。
为什么这对大模型重要?因为预训练本质上是在压缩互联网上已有的语言与知识,模型的能力大体仍在原始数据分布之内。真正的新智能,需要系统跳出原来的分布,去尝试训练数据里没有明确写过的路径。强化学习提供了“环境—行动—反馈”的回路:模型不是继续背诵人类已经写好的答案,而是在一个可以判断结果的世界里产生新的轨迹。
这一逻辑依赖一个关键条件:验证结果要比找到答案容易。王小川用迷宫和几何证明说明,走出迷宫很难,但检查有没有撞墙、是否到达出口相对简单;找到证明过程很难,但检查证明有没有漏洞可以交给程序或另一个系统。只要“验证器”足够可靠,系统就能让模型大量尝试,而不必让人类逐条写出正确思维链。这正是 self-play 或可验证强化学习减少人工标注的原因。
五、为什么 o1 先在数学和代码上强:奖励不是到处都有
主持人观察到,o1 在数学、编程和科学问题上进步明显,但在英语表达、文学和部分语言任务上没有同样的惊艳感。王小川的解释是“文无第一,理无第二”:文学和语言表达常常没有统一的绝对答案,评价依赖审美、语境和读者;数学和代码却更容易得到对错反馈,程序能不能运行、证明是否成立、计算结果是否一致,都能形成奖励信号。
所以,强化学习不是自动给所有领域加上同样的智能。它首先会在那些有清晰评价标准的领域形成优势。语言模型原本擅长的是见多识广和模仿,强化学习带来的,是在可验证任务上反复探索。如果未来想把这套方法用于法律、医学、金融、文学或现实决策,就必须为这些领域建立足够好的环境、规则或专业评价模型,否则“奖励”会变得模糊,甚至被模型钻漏洞。
六、王小川举的两个案例:古诗的规则世界与医疗的反馈世界
百川在 o1 之前就尝试过强化学习。王小川讲到一个看似反直觉的案例:他们曾把唐诗宋词作为实验对象,先让程序检查字数、平仄、韵律、押韵和对仗等形式规则,再用这些结果给模型奖励。诗歌整体审美很难评价,但其中一部分形式约束可以程序化。模型在反复尝试中学会了满足这些约束,甚至自然生成了团队没有专门教给它的对仗能力。
王小川把这解释为两件事:一方面,规则验证让人文任务也有了局部的强化学习入口;另一方面,强化学习可能把预训练中已经潜藏的能力激活出来。模型也许早就读过大量诗歌,只是没有在特定目标下把平仄、押韵、对仗组织起来。奖励回路不一定创造全部知识,也可能把分散的潜能重新组合。
医疗是他更看重的长期场景。诊断、检查、用药和治疗方案并不是简单的聊天,它们涉及大量专业知识、连续决策和结果反馈。王小川设想的路径是:先让模型学习医生的对话和推理方式,再用临床规则、检查结果和治疗结果评价它的决策。医生自己也是在大量患者互动中变强的,医疗过程留下的数据可以成为一种真实环境。这个设想很有吸引力,但节目也承认其中同时存在技术、商业、伦理和责任问题,因此“医疗可用”不能由一次模型演示直接推出。
七、o1 是第二座金矿:模型公司会进入“能力和场景互相抬升”的阶段
在节目中,o1 被类比为 GPT-3 时刻甚至更重要:GPT-3 让语言模型路线被证明,o1 则是在 GPT-4 规模基础上又证明了一种新的后训练与推理范式。王小川认为,单纯预训练可挖掘的公开数据和收益正在变得有限,post-training、强化学习和推理时计算可能是第二座金矿。对行业来说,AGI 的梯子不是只靠把预训练模型做大,而是多出几级“思考、验证和专域强化”的台阶。
这也解释了他为什么不认为未来只有一个全知全能的统一模型。通用模型仍然重要,但模型真正进入一个产业时,需要该领域的知识、数据、工具、评价和责任结构。GPT-4 之所以能被企业调用,是因为 API 被放进各个具体场景,企业再补上自己的 know-how。医疗、法律、科研等领域不会只靠通用模型裸奔。
主持人问模型推理时增加计算是否会带来另一条 Scaling Law。王小川的回答是肯定的方向性判断:训练阶段的能力与推理阶段的计算可能形成乘积关系,训练不再是唯一的增长轴。具体算力数字、o1 内部专家数量和真正的训练成本,他都表示不知道;因此节目提供的是路线判断,不是 OpenAI 的技术披露。
八、从“做一个模型”到“造一个医生”:TPF、顾问和双轮驱动
王小川把公司的应用战略称为“双轮驱动”:一条腿继续追赶基础模型能力,另一条腿把能力放进真正会随着模型变强而变得更有价值的场景。他把这与传统的 PMF 区分开来。PMF 通常是发现一个需求,再用产品满足需求;大模型时代更像 TPF,即技术能力和产品场景之间互相适配。场景越清晰,对模型需要的能力就越具体;模型越强,场景的上限又越高。
“医疗”之所以被选中,不是因为它最容易,而是因为它满足“水涨船高”:模型越大,医学知识、视觉理解、语言沟通和多步判断越强,医生这一场景可能越受益。相反,如果只做一个写广告或客服的小模型,基础模型变大不一定带来同等比例的产品价值,应用反而可能成为模型公司不断维护的负担。
节目进一步讨论“数字医生”到底是不是一个 App。王小川认为,产品形态并不重要,它可以是手机里的应用、医院终端、语音设备或其他硬件;重要的是它拥有语言、知识、判断和交流能力,像一个可以被调用的专业角色。早期可能从全科和儿科开始,再走向专科,远期甚至讨论“生命的数学模型”。这些是公司的愿景,不应被误读成现成产品能力。
九、为什么他说“顾问”而不是“助手”:重新定义价值
主持人把数字医生与 AI 助手、电影《Her》联系起来。王小川认为“助手”这个词会让人把模型理解成只负责动手、节省时间的服务。过去人们以为机器会先替人扫地洗碗,人继续写字画画;现实却是机器已经会写字画画,而家务机器人仍不成熟。模型更直接的能力是提供 know-how,也就是帮助人判断、理解和做出更强的决策。
因此他更愿意把产品叫“顾问”。助手帮助你省时间,娱乐帮助你杀时间,顾问则不只是让时间消失,而是让你获得新的知识和能力。医疗恰好是一个顾问型场景:它不是把用户从一个页面带到另一个页面,而是帮助用户理解身体、风险和下一步行动。这个定位也为创业公司提供了一个筛选标准:不要只问模型能不能接入一个新应用,而要问模型能力变强是否会持续抬高这个应用的价值。
十、节目收尾:娱乐暂缓,组织进入兑现期
谈到“六小龙”能活几家,王小川只说至少一家;他认为创业公司的机会,往往来自大公司内部因为共识、组织或流程而看不到的方向。百川原本也考虑过更通用的顾问和娱乐,但娱乐的终局不是一个聊天机器人,而是让模型创造虚拟世界和完整叙事,这需要更多数据,时机尚未成熟。
最后主持人问他的状态是否焦虑。王小川说,早期大团队刚建立时最难;现在融资已经完成,方向比较清晰,团队也开始成形,接下来是兑现这些判断。这个结尾很重要:他并没有宣称路线已经成功,而是从“赶上时代火车”的焦虑,转到“模型能力、医疗场景和组织执行需要一起接受市场检验”的阶段。