Podcast Interview · Reasoning, Reinforcement Learning & Medical AI

#76 王小川:从快思考到慢思考,强化学习如何进入医疗

这期 39 分钟的返场访谈,把 OpenAI o1 放进一条更长的技术叙事里:预训练像“读万卷书”,让模型压缩人类已有的语言与知识;强化学习像“行万里路”,让模型在可验证的环境里探索、犯错、修正,并逐步形成多步思考。王小川真正关心的不是 o1 是否短期赢下一张榜单,而是这条“学—思融合”的路线能不能把模型带入医疗等高价值场景。

#76 · YouTube 39:05 · 王小川 / 张小珺 · 自动转录无法可靠区分说话人;正文按节目推进解释,不把每个转录句子硬归属给某一方

原文讲解:节目是怎样从 o1 讲到“数字医生”的

先把访谈完整讲清楚。主持人不断把问题从模型机制推向公司战略,王小川则用“快思考/慢思考”“读万卷书/行万里路”“水涨船高”等比喻,把技术判断和百川智能当时的医疗路线连在一起。下面保留这条推进链。

节目时间原文推进这一段解决的问题
00:00–07:55o1 不是转弯,而是从快思考进入慢思考为什么 o1 应被理解为范式升级
07:55–13:30思维链、隐藏过程、监督学习与强化学习o1 的关键技术直觉在哪里
13:30–21:38数学、代码、诗歌与医疗的奖励机制强化学习为什么先在可验证领域变强
21:38–28:53第二座金矿、复制周期、通用模型与领域模型o1 会怎样改变模型公司的竞争
28:53–36:51代码、医疗、TPF、“数字医生”与顾问模型能力如何和具体场景互相牵引
36:51–39:05娱乐、组织、融资与下一阶段为什么王小川最后显得比去年更不焦虑

一、开场先定调:o1 不是路线转弯,而是把“学”接上“思”

节目前几十秒先提到 OpenAI 早期的权力风波和强化学习研究者加入,随后主持人把背景补完整:前两集节目分别讨论了 o1 的预言和技术解析,这一期想听一个更早关注强化学习、也已经创业做模型的人的判断。王小川在创业开始就把两条路线放在一起说:大模型代表“快思考”,它读了很多东西后迅速给出一个答案;强化学习代表“慢思考”,它要在环境中行动、得到反馈,再形成一条可复用的思路。

因此,节目一开始就排除了一个常见理解:o1 不是模型能力先前进、后来退步,也不是从大模型突然转到另一个完全不同的方向。王小川的说法是,快思考是慢思考的基础。模型先要有足够强的语言能力,才能把多步推理、搜索和验证接到语言系统上;真正发生的是从“只会说”走向“会想一段时间再说”。他把这件事概括为“学”和“思”最终融合。

二、为什么需要慢思考:从信息、知识走向智慧

主持人问 o1 能解决什么。王小川借用 DIKW 框架解释:搜索主要解决 Data/Information 的获得,大语言模型把信息组织成 Knowledge,并通过语言完成沟通;o1 开始触碰 Wisdom 的雏形。这个比喻不是说 o1 已经拥有了人的智慧,而是说它开始把答案拆成一个过程,能够在复杂问题上先探索中间步骤,再提交结果。

对数学证明、代码、数据处理、逻辑问题而言,一拍脑袋的答案往往不够。模型需要先列出假设、尝试路径、检查中间结果,然后才给出最终答案。文学写作可以在很多时候依靠即时的语言联想,但绝大多数需要可靠性的复杂任务,都要让系统多走几步。王小川因此把“多步思考”视为智能系统的必要组成,而不是产品层面的额外装饰。

他还特别强调 o1 的两阶段结构:思考过程与最终回答被分开。一个题做对了,不等于模型掌握了可迁移的方法;如果模型形成的是一条正确的解题过程,那么这套过程可能被复用到更多题目,甚至迁移到新的领域。节目中“语言为中心、强化思维链、把过程和结果分开”是理解 o1 的三个关键词。

三、为什么 OpenAI 隐藏思维链:商业竞争和数据蒸馏

主持人接着问,既然思考过程如此重要,为什么 OpenAI 不把它完整展示出来,甚至对试图破解过程的人发出封号警告。王小川给出的第一层解释是商业竞争:过去各家模型的输出可以被拿去蒸馏,竞争者通过大量模仿迅速接近原模型。如果 o1 公开了完整思路,别人不仅能研究它的算法,还能直接获得高价值的推理训练数据。

这不是一个“OpenAI 不愿意分享知识”的单一道德判断,而是一个商业公司的策略选择。公开答案和公开完整过程的差别很大:答案告诉你最后得到什么,过程却可能告诉你如何构造一批训练样本、如何组织搜索、如何做验证。王小川认为,o1 的独特性正依赖这些过程数据和工程闭环,所以隐藏思维链能延缓被复制。

他也没有把复刻说成不可能。复刻 o1 比复刻 GPT-4 难,难点不只是显卡数量,还包括专家标注、数据构造、训练工程和评价体系。未来如果有开源项目、人才和资本共同投入,接近它的模型可能很快出现,但达到同样高度仍需要较长的工程积累。节目中提到“一两个月出现接近模型”“GPT-4 约需更长时间、o1 约九个月”等,都是王小川当时的预测,不是已被验证的时间表。

四、监督学习和强化学习:一个教答案,一个只给对错

主持人要求把强化学习讲得更具体。王小川先用监督学习对比:监督学习告诉模型“这道题应该怎样一步一步解”,模型学习的是一条已经存在的路径;强化学习不告诉它过程,只在它行动之后判断结果对不对,让模型自己探索一条路径。这相当于教孩子背解法和让孩子自己试错的差别。

为什么这对大模型重要?因为预训练本质上是在压缩互联网上已有的语言与知识,模型的能力大体仍在原始数据分布之内。真正的新智能,需要系统跳出原来的分布,去尝试训练数据里没有明确写过的路径。强化学习提供了“环境—行动—反馈”的回路:模型不是继续背诵人类已经写好的答案,而是在一个可以判断结果的世界里产生新的轨迹。

已有文本
预训练压缩
提出行动
环境验证
形成策略

这一逻辑依赖一个关键条件:验证结果要比找到答案容易。王小川用迷宫和几何证明说明,走出迷宫很难,但检查有没有撞墙、是否到达出口相对简单;找到证明过程很难,但检查证明有没有漏洞可以交给程序或另一个系统。只要“验证器”足够可靠,系统就能让模型大量尝试,而不必让人类逐条写出正确思维链。这正是 self-play 或可验证强化学习减少人工标注的原因。

五、为什么 o1 先在数学和代码上强:奖励不是到处都有

主持人观察到,o1 在数学、编程和科学问题上进步明显,但在英语表达、文学和部分语言任务上没有同样的惊艳感。王小川的解释是“文无第一,理无第二”:文学和语言表达常常没有统一的绝对答案,评价依赖审美、语境和读者;数学和代码却更容易得到对错反馈,程序能不能运行、证明是否成立、计算结果是否一致,都能形成奖励信号。

所以,强化学习不是自动给所有领域加上同样的智能。它首先会在那些有清晰评价标准的领域形成优势。语言模型原本擅长的是见多识广和模仿,强化学习带来的,是在可验证任务上反复探索。如果未来想把这套方法用于法律、医学、金融、文学或现实决策,就必须为这些领域建立足够好的环境、规则或专业评价模型,否则“奖励”会变得模糊,甚至被模型钻漏洞。

六、王小川举的两个案例:古诗的规则世界与医疗的反馈世界

百川在 o1 之前就尝试过强化学习。王小川讲到一个看似反直觉的案例:他们曾把唐诗宋词作为实验对象,先让程序检查字数、平仄、韵律、押韵和对仗等形式规则,再用这些结果给模型奖励。诗歌整体审美很难评价,但其中一部分形式约束可以程序化。模型在反复尝试中学会了满足这些约束,甚至自然生成了团队没有专门教给它的对仗能力。

王小川把这解释为两件事:一方面,规则验证让人文任务也有了局部的强化学习入口;另一方面,强化学习可能把预训练中已经潜藏的能力激活出来。模型也许早就读过大量诗歌,只是没有在特定目标下把平仄、押韵、对仗组织起来。奖励回路不一定创造全部知识,也可能把分散的潜能重新组合。

医疗是他更看重的长期场景。诊断、检查、用药和治疗方案并不是简单的聊天,它们涉及大量专业知识、连续决策和结果反馈。王小川设想的路径是:先让模型学习医生的对话和推理方式,再用临床规则、检查结果和治疗结果评价它的决策。医生自己也是在大量患者互动中变强的,医疗过程留下的数据可以成为一种真实环境。这个设想很有吸引力,但节目也承认其中同时存在技术、商业、伦理和责任问题,因此“医疗可用”不能由一次模型演示直接推出。

七、o1 是第二座金矿:模型公司会进入“能力和场景互相抬升”的阶段

在节目中,o1 被类比为 GPT-3 时刻甚至更重要:GPT-3 让语言模型路线被证明,o1 则是在 GPT-4 规模基础上又证明了一种新的后训练与推理范式。王小川认为,单纯预训练可挖掘的公开数据和收益正在变得有限,post-training、强化学习和推理时计算可能是第二座金矿。对行业来说,AGI 的梯子不是只靠把预训练模型做大,而是多出几级“思考、验证和专域强化”的台阶。

这也解释了他为什么不认为未来只有一个全知全能的统一模型。通用模型仍然重要,但模型真正进入一个产业时,需要该领域的知识、数据、工具、评价和责任结构。GPT-4 之所以能被企业调用,是因为 API 被放进各个具体场景,企业再补上自己的 know-how。医疗、法律、科研等领域不会只靠通用模型裸奔。

主持人问模型推理时增加计算是否会带来另一条 Scaling Law。王小川的回答是肯定的方向性判断:训练阶段的能力与推理阶段的计算可能形成乘积关系,训练不再是唯一的增长轴。具体算力数字、o1 内部专家数量和真正的训练成本,他都表示不知道;因此节目提供的是路线判断,不是 OpenAI 的技术披露。

八、从“做一个模型”到“造一个医生”:TPF、顾问和双轮驱动

王小川把公司的应用战略称为“双轮驱动”:一条腿继续追赶基础模型能力,另一条腿把能力放进真正会随着模型变强而变得更有价值的场景。他把这与传统的 PMF 区分开来。PMF 通常是发现一个需求,再用产品满足需求;大模型时代更像 TPF,即技术能力和产品场景之间互相适配。场景越清晰,对模型需要的能力就越具体;模型越强,场景的上限又越高。

“医疗”之所以被选中,不是因为它最容易,而是因为它满足“水涨船高”:模型越大,医学知识、视觉理解、语言沟通和多步判断越强,医生这一场景可能越受益。相反,如果只做一个写广告或客服的小模型,基础模型变大不一定带来同等比例的产品价值,应用反而可能成为模型公司不断维护的负担。

节目进一步讨论“数字医生”到底是不是一个 App。王小川认为,产品形态并不重要,它可以是手机里的应用、医院终端、语音设备或其他硬件;重要的是它拥有语言、知识、判断和交流能力,像一个可以被调用的专业角色。早期可能从全科和儿科开始,再走向专科,远期甚至讨论“生命的数学模型”。这些是公司的愿景,不应被误读成现成产品能力。

九、为什么他说“顾问”而不是“助手”:重新定义价值

主持人把数字医生与 AI 助手、电影《Her》联系起来。王小川认为“助手”这个词会让人把模型理解成只负责动手、节省时间的服务。过去人们以为机器会先替人扫地洗碗,人继续写字画画;现实却是机器已经会写字画画,而家务机器人仍不成熟。模型更直接的能力是提供 know-how,也就是帮助人判断、理解和做出更强的决策。

因此他更愿意把产品叫“顾问”。助手帮助你省时间,娱乐帮助你杀时间,顾问则不只是让时间消失,而是让你获得新的知识和能力。医疗恰好是一个顾问型场景:它不是把用户从一个页面带到另一个页面,而是帮助用户理解身体、风险和下一步行动。这个定位也为创业公司提供了一个筛选标准:不要只问模型能不能接入一个新应用,而要问模型能力变强是否会持续抬高这个应用的价值。

十、节目收尾:娱乐暂缓,组织进入兑现期

谈到“六小龙”能活几家,王小川只说至少一家;他认为创业公司的机会,往往来自大公司内部因为共识、组织或流程而看不到的方向。百川原本也考虑过更通用的顾问和娱乐,但娱乐的终局不是一个聊天机器人,而是让模型创造虚拟世界和完整叙事,这需要更多数据,时机尚未成熟。

最后主持人问他的状态是否焦虑。王小川说,早期大团队刚建立时最难;现在融资已经完成,方向比较清晰,团队也开始成形,接下来是兑现这些判断。这个结尾很重要:他并没有宣称路线已经成功,而是从“赶上时代火车”的焦虑,转到“模型能力、医疗场景和组织执行需要一起接受市场检验”的阶段。

原文讲解的落点王小川的完整论证不是“强化学习会取代大模型”,而是:预训练给模型语言和知识,强化学习给模型可验证的探索与多步策略;要让这套组合产生长期价值,还必须找到一个模型越强、场景越受益的领域,医疗是他当时押注的例子。

结构化抽象:这期访谈真正提出了什么

技术命题

从语言建模到强化学习,不是二选一,而是从预训练的知识压缩走向环境反馈中的策略学习。

产品命题

模型公司的应用不应只是“沿途下蛋”,而应选择能力变强会持续抬高价值的“水涨船高”场景。

组织命题

模型、数据、验证器、领域知识和交付渠道必须同时推进;单独复刻一个模型不等于完成产业化。

1. “快思考—慢思考”是一个能力分层,而不是速度差

快思考对应的是从已有分布中快速生成答案,慢思考对应的是在多个候选路径之间搜索、检查和修正。这里的“慢”不是单纯把延迟拉长,而是引入了不同的计算对象:模型不只预测下一个词,还要生成一串行动或中间步骤,并通过验证器筛选。因而推理时计算、环境设计和结果评价都成为模型能力的一部分。

2. 强化学习的瓶颈从算法转向奖励和环境

“让模型自己想”并不自动产生可靠智能。只有当任务有清楚的奖励、可重复的验证和足够长的反馈链,探索才有意义。数学和代码是早期优势领域,是因为它们能把结果变成相对明确的对错;医疗若要进入同一回路,就必须解决诊断结果延迟、病例差异、责任归因和安全红线。

3. “数字医生”其实是一个生产关系假设

王小川说造医生,不只是给模型换一个医疗数据集,而是把专业知识、医生决策、患者交互、医院终端和责任体系组合成一个新的服务角色。它的价值不一定体现在一个独立 App,而可能体现在医院、设备、保险或持续健康管理网络里。这个判断比“医疗大模型很有前景”更具体,也因此更容易被现实证伪。

4. 访谈里的预测应该怎样读取

节目说法它的证据等级真正需要验证的东西
o1 是类似 GPT-3 的新范式,甚至更重要嘉宾的历史类比与路线判断是否带来跨领域、可重复的能力增量,而不只是数学代码榜单提升
一两个月会出现接近 o1 的模型嘉宾当时的时间预测接近输出风格、接近可靠性,还是接近完整训练与推理能力
医疗是水涨船高的场景公司战略假说模型变强是否能转化为医生采用、患者收益与可承担责任
未来代码会进入模型自我改进回路技术趋势预测代码执行、测试、部署和安全约束能否形成稳定闭环

证据审计与独立判断

节目中比较扎实的部分

需要保持距离的部分

我的判断:这期最重要的不是押中了哪一个模型

如果把节目放回 2024 年 o1 刚出现的时间点,最有价值的不是“o1 会不会在几个月内被复刻”,而是王小川给出了一个可持续检查的因果链:预训练提供知识底座,强化学习提供探索,验证器把探索变成可积累的策略,领域场景把策略转化为经济价值。链条中任何一环断掉,所谓“第二座金矿”都只是叙事。

这条链还揭示了一个常被忽略的反例:在奖励不清晰的领域,增加推理时计算可能只是产生更长的自信错误;在医疗中,模型越强,错误的影响也可能越大。因此“模型越大、场景越受益”必须同时满足两个条件:能力增量可被真实业务吸收,安全边界也能随着能力增量一起收紧。

可证伪条件如果强化学习在一组有明确验证器的数学、代码任务之外,长期无法稳定迁移到现实世界的长反馈任务;或者医疗模型的能力提升无法转化为可重复的临床决策收益、责任可解释性和实际采用,那么“慢思考是第二座金矿”就只能算局部技术突破,而不是通用产业范式。

证据边界与资料索引

本文的原文重建以节目本身为第一材料,按公开节目音视频与对应文字转录交叉阅读。转录存在口语重复、专有名词误识别和说话人未分离的问题,因此只在观点连续出现时概括,不把单个自动识别词当作独立事实。

回到顶部 ↑