Podcast Interview · 逐期深读

孟繁青谈模型竞争:从后训练、合成数据到RSI的演进与非共识判断

本期背景与内容导览

本期主持人曲凯对话 Evolvent AI 联合创始人、NUS 博士生孟繁青。官方 shownotes 补充称,孟繁青为 2001 年出生,曾在 Kimi 实习一年多,做 Agent 与 RL Infra,并参与 Kimi K2.5、Kimi Linear 等模型发版。访谈时的 Evolvent AI 成立约半年,一方面承接合成数据合作,另一方面探索 RSI;RSIBench-Data 是团队已经发布的项目,但本期没有给出足以独立复现其结论的实验表格或消融结果。 对话先从模型厂与创业公司的分工差异展开。嘉宾认为,模型厂内部训练服务已经成熟,普通后训练研究员的大量工作转向数据、环境和评测;创业团队则不从零训练基础模型,而要寻找与基础模型训练相区别的切口。他把新式 Agent Bench 解释为“环境+任务+检查”:模型不再只回答一道题,而是在模拟软件环境中连续操作,再由细分得分点验收。由此,数据质量的事前指标与训练后的实际效果被分开:正确性、轨迹是否作弊和难度可用于初筛,最终仍要看目标 Bench 提升以及其他能力是否退化。 随后嘉宾提出本期的主要行业判断:国内模型的特色更多来自资源限制下的大模型架构与预训练创新,海外厂商则在后训练数据积累上起步更早;蒸馏是补充数据和加速竞争的手段,不是国内模型变强的决定性因素。他同时强调,榜单交替领先不等于实际体验完全相同,算力之外还有数据、Infra 和组织协作。关于国内外差距、具体公司表现、算力比例和架构名称,节目提供的是嘉宾及其朋友圈的观察,不是经过本期独立核验的行业统计。 RSI 部分需要区分三个层次:在推理时反复修改一个答案,改变外部 Harness 或搜索过程,以及用产生的新数据重新训练模型参数。嘉宾用“更聪明的 DFS”概括第一类探索,用 world model 与 value model 解释模型如何选择后续动作,并把更强的基础模型和更长上下文视为 RSI 进步来源。这是他的统一解释框架,不证明所有 Self-Evolving、Auto-Research 与 RSI 系统在严格定义上等价,也不证明搜索成功会自动带来参数层面的持续自我提升。 数据部分把合成数据写成“给定环境与目标,让模型探索并保存轨迹”,把本期语境中的蒸馏写成“使用外部强模型充当探索者”。环境、题目和评分器因此成为数据生产的资产;外部教师、内部模型和真人轨迹只是不同来源,仍要经过质量筛选、训练和其他任务验收。嘉宾进一步把“一个模型后训练另一个小模型”的长过程称为潜在的 RSI 数据,并判断普通 Agent 数据订单可能减少、这类高门槛轨迹更有价值。该方向是团队正在探索的路线与市场预测,不能写成已经验证的商业或训练结论。节目最后回到 Evolvent AI 的实际业务、RSIBench-Data 的初步定位和招聘偏好。

42章经 · 2026-08-08 · 0:59:29

原对话:沿提问、回答和转折完整展开

下面先按节目顺序重建。主持人在追问什么,嘉宾如何以自己的经历、例子和推理作答,尽量保留在具体语境中;案例中的事实、数字和判断先归属于发言人。随后才进入本文的机制解释与独立判断。

00:00:02–00:28:02连续对话 1

00:00:19–00:02:36从大厂到创业:从训练模型到寻找正交切入点

  • 可以给大家先简单介绍一下?
  • 在Kimi和出来创业的感受有什么不同?

主持人曲凯先请孟繁青介绍自己。嘉宾自述为 NUS 博士生、Evolvent AI 联合创始人,当前主要研究 RSI;此前在 Kimi 有较长实习经历,做 Agent 与 RL,偏 Infra,并参与 Kimi Linear、K2.5 等模型发版。官方 shownotes 另给出“01 年出生、在 Kimi 实习一年多、前 Kimi RL 实习生”的介绍。这里的“参与发版”不等于本期证明他独立负责这些模型的全部研发。

曲凯把“年轻、博士在读或刚毕业、具有模型厂后训练经历”概括为当下常见创业者画像,并询问创业约半年的实际感受。孟繁青认为,在 Kimi 后期,基础模型训练对普通研究员而言已较工程化,内部训练与推理流程稳定,他也会做合成数据。创业后,团队不从零训练基础模型,而要寻找与模型厂基础模型工作相区别的切入点,并从零搭建内部使用的平台与 Infra。

原转录在此段出现“训技术模型”“不训鸡模”“模型治理”等明显识别噪声。结合后文“不做 RSI 专用基模”以及团队会后训练小模型的表述,本稿按“不从零训练基础模型、寻找区别于基础模型研发的工作”还原语境;这不等于 Evolvent AI 完全不训练任何模型。嘉宾对大厂与创业公司的概括来自其个人岗位经历,也不能外推为所有模型厂研究员的工作状态。

Pre-training(预训练)用大规模数据训练基础模型,使其学习语言、知识与一般模式的阶段。本期把架构、优化器、训练计算等归入这一层;嘉宾将国内模型的部分竞争力归因于此。预训练提供能力基础,不等于已经确定所有下游任务表现。
Post-training(后训练)在预训练模型之后,通过监督微调、强化学习或其他数据与反馈过程改变模型行为。输入可包括问题、示范、模型轨迹、环境反馈与训练配置,输出是新的模型参数或版本;验收不限于单一答案,还包括目标能力、其他能力和成本。
SFT(Supervised Fine-Tuning,监督微调)用给定的输入与目标输出训练模型。模型厂内部服务化后,研究员主要提交数据与请求,由平台执行训练并返回模型结果;操作简化不代表数据设计、配置和效果诊断没有技术门槛。
Bench / Benchmark(基准测试)用于比较模型或 Agent 的任务与评分体系。本期的新式 Agent Bench 还包含可交互环境:输入是初始状态和任务,模型连续操作工具,评分器按多个得分点检查过程或结果。环境真实性、评分点设计与防泄漏共同影响结论。

话题推进:从个人岗位差异出发,主持人继续追问:为什么后训练背景的人似乎比预训练背景的人更容易创业,他们又能提供什么产品?

00:02:36–00:04:37为何Post-training背景的人更易创业:从数据到平台

  • 我发现做Post-training的人现在创业的是比较多的,Pre-training的好像很少。
  • 那Post-training的人出来创业,你觉得他是比较擅长和适合的是做什么呀?

曲凯先给出观察:做 Post-training 的人创业较多,Pre-training 背景者较少。孟繁青解释,预训练研究员更多处理模型架构、优化器等问题,这些工作需要大量计算资源,初创公司较难覆盖成本;他也认为预训练数据已相对饱和,研究员日常直接接触数据的机会较少。后半句是他的行业感受,不是对预训练数据研究已经终结的判断。

他给出的后训练创业入口主要有两类。第一类是合成数据:相较预训练阶段更大的数据用量,后训练数据更强调精细设计。第二类是平台,他将其白话化为 Bench。早期 Bench 更像一组难题,新式 Agent Bench 则提供可持续交互的环境,让模型长时间探索并完成任务。

嘉宾进一步把 Agent Bench 与商业落地连接起来:环境本身需要较好的工程实现,任务和验收又接近真实工作,因此他认为优秀的 Bench 更容易转成商业产品。这是“为什么后训练背景创业者更多”的机制解释与市场判断,节目没有给出创业者数量、公司收入或 Bench 转化率的统计证据。

话题推进:“平台就是 Bench”仍然抽象,主持人要求嘉宾具体解释新旧 Bench 的差别,以及模拟环境中的结果怎样判定。

00:04:37–00:07:12基准测试(Bench)的演变:从“做题”到“模拟环境”

  • 哎,我觉得你说这个Bench的白话还不够白啊,就是所以到底今天的Bench你觉得跟之前的区别是什么?
  • 但你看之前的那个就是做题这件事情,包括Coding这件事情,它的可验证性其实我理解是更强更简单的,对吧?……那你说的我建一个环境,最终怎么评判这个结果的好坏呢?
  • 所以最后还是需要人来做这个检查嘛,对吧?

孟繁青用“做数学题”类比传统 Bench:输入一道难题,模型直接给答案,主要考察推理。现实中的白领工作还依赖飞书、Notion 等软件,因此新式 Bench 会模拟这些工具,让 Agent 通过连续操作完成任务。评测对象从单次答案扩展为环境状态、工具调用和最终交付。

曲凯随即指出,数学题和部分 Coding 任务容易对答案,模拟环境怎样保证评测可信?嘉宾把问题拆成两层。第一层是环境是否接近真实:例如同一个输入分别作用于模拟 Notion 与真实 Notion,比较输出是否一致。第二层是任务与检查是否设计正确:不再只判断最终答案是否相等,而是拆成多个小得分点;这些得分点目前依赖人的精细设计,检查时可由人和 Agent 共同完成。

这里的“相同输入得到相同输出”是环境行为一致性的检查例子,不能单独证明模拟环境在所有操作、异常和长期状态上等同真实环境;人工或 Agent 参与检查也不自动保证评分准确。嘉宾在 00:06:43 附近举到的两个 Bench 名称转录为“Crawlmark”和“Automation Bench”,本稿不替其猜补正式名称。

话题推进:环境和得分点都需要设计,话题由此回到后训练研究员的日常:他们的核心工作是否主要已经变成做数据?

00:07:12–00:10:35后训练的核心:门槛降低但“做数据”并非枯燥

  • 我最近听了一个说法,就是有人会讲说Post-training的人其实每天主要就是在做数据。
  • 所以会有人讲说那Post-training是不是其实相对是比较枯燥无聊的工作,以及说那是不是现在所谓的这个训模型这件事其实门槛没有大家想的那么高。

对于“Post-training 研究员每天主要做数据”的说法,孟繁青基本认可,并以模型厂内部 SFT 服务解释原因。外部训练者可能要自行找代码仓库、GPU、配置环境和整理数据;内部研究员则提交请求与数据,由远程服务执行训练并返回结果。他所说的“即使不懂 SFT 也能走完流程”强调操作门槛降低,并不表示数据设计、训练配置和结果诊断都不再需要知识,搭建服务的 Infra 人员也仍面临大量工程问题。

曲凯追问:这是否意味着后训练既枯燥又低门槛?嘉宾将二者分开。他认可普通算法研究员的执行门槛下降,但认为关注更直接、更本质的输入是技术演进的一部分,不等于工作没有研究含量。他把架构发展到 Transformer、RL 采用可验证规则奖励等作为“方法走向简单和结果导向”的例子;这是他个人的历史归纳,不是“所有复杂算法都失去价值”的证明。

团队 RSI Bench 的观察提供了反例:Agent 能处理较机械的修复,例如某批数据使模型回答格式出错后,Agent 可以修改;但嘉宾认为它还不能主动提出造数据的 insight。因此,研究员知道该造什么数据、为什么这样造,仍是核心 know-how。该段只报告团队观察,没有披露任务数、对照方法或成功率,不能扩大为 Agent 永远无法提出新数据策略。

话题推进:既然关键差异落在研究员的数据 know-how,主持人继续追问:数据好坏究竟怎样衡量,能否在训练前就知道?

00:10:35–00:12:48数据质量的评判:结果导向与过程中的不确定性

  • 所以你看同样的人,他做出来的数据的结果不同,好坏大概体现在什么地方?有没有一个某一个具体的例子?
  • 但你说的这个是结果上的评判吧?对,我就说是什造成了不同的这个结果呢?
  • 所以我能不能换个角度理解,就是现在数据的质量它仍然是一个比较难评判的事情。
  • 所以对于一个模型来讲,就是我们只说后训练部分,它的Infra的好坏跟数据的好坏,你觉得这个重要性占比大概是怎么样的?

孟繁青先给出训练后的结果标准。其一,数据用于训练后,能否在没有作弊或 hacking 的情况下提升目标 Bench;其二,目标能力提升是否以其他能力退化为代价,例如代码数据训练后,写作等能力是否下降。曲凯指出,这仍是在看结果,并追问造成差异的原因。

嘉宾随后把一条数据描述为“问题+模型轨迹+最终答案”。训练前可以检查答案与轨迹的正确性、轨迹有没有作弊,以及任务难度是否适中:太简单可能没有新增学习信号,太难也可能学不到东西。这些指标主要用于初筛,不能替代真正训练后的验收。原稿把“正确性”几乎等同于“是否作弊”,本次将二者拆开;是否 hacking 与答案是否正确是不同检查维度。

因此,本段形成的闭环是:先用正确性、轨迹和难度过滤候选数据,再训练模型,最后同时观察目标 Bench 与其他能力,失败后再改数据。嘉宾没有给出各项指标的阈值,也没有给数据和 Infra 一个数值权重;他只判断当前数据更重要,理由是 Infra 已相对稳定。这一排序是他的经验判断,且后文也说明长轨迹仍会反过来推动 Infra 改造。

话题推进:在数据、训练服务与评测的关系厘清后,对话转向更宏观的问题:国内模型与海外模型分别在哪些环节积累优势?

00:12:48–00:17:09反直觉的观点:国内模型优势在Pre-training创新

  • 在你你的视角看来,今天尤其是国内的这些模型,大概是发展到一个什么阶段?大家在拼的是什么东西?
  • 你说的这个其实跟我本来预想的还蛮不一样的。……我本来会觉得说……pre-training部分海外的可能它算法的人才密度会更高一点,它的卡肯定也远多于国内,然后post-training的反而是更偏工程上的东西。理论来说是国内更应该有优势的部分。
  • 所以你觉得这个观点是就是AI lab内部大家公认的一个点吗?还是是你个比较个人的一个看法?

孟繁青认为国内与海外已发布模型的差距在缩小。他以转录中的“K3”为例,给出“国内卡可能只有国外 1/10”的粗略说法,并称其效果接近某国外模型;被比较对象转录为“FABO”,无法从文本可靠确认。他还提醒,海外厂商可能有未发布的存货,因此只能比较公开 release,难以精确估算时间差。这些数字和名称均保留为嘉宾口述与待回听项,不作为核实后的技术参数。

他的核心判断是,算力约束倒逼了国内预训练与底层架构创新。他举 Kimi Linear 线性注意力和 DeepSeek 的“multi-layer attention”为例,认为这类机制能减少计算,同时尽量保持性能和推理速度。后一个名称在公开技术语境中无法仅凭转录确定,本稿不改成 MLA、DeepSeek-Attention 或其他猜测。架构已证明 scale 能力、Mamba 没有证明 scale 能力等强判断,也属于嘉宾观点;他后来明确说,不确定这是不是行业共识,只是自己与朋友交流后较认同。

相较之下,他认为国内后训练略弱,原因不是基础实力,而是 Claude、OpenAI 等海外厂商更早积累数据,时间差可能约半年;国内厂商会用蒸馏补足数据短板。曲凯原本预期国内更擅长偏工程的后训练,嘉宾则回应,工程与数据积累依赖人力和组织,时间差未必比研究创新更容易弥补。

这段论证把公开模型表现、架构、数据积累和组织能力串成因果链,但节目没有提供控制变量实验。尤其是“预训练创新是差距缩小的主要来源”和“后训练弱主要来自数据时间差”,应作为嘉宾解释,而不是已被本期证明的唯一因果。

话题推进:如果架构与数据积累都在持续变化,单期模型的领先能维持多久?主持人继而逐家讨论模型厂与长期竞争壁垒。

00:17:09–00:21:50国内模型厂商的竞争:交替领先与组织架构的重要性

  • 那你看起来后面这些模型商会怎么变化?就大家会是一个交替领先的一个情况吗?还是怎么样?
  • 所以就不太存在说某一家能够因为什么独特的原因就一路领先,对吧?
  • Kimi因为它K3讲的是它做了一个非常大参数的嘛,你觉得这个对它的模型实际的贡献有多大?
  • 其他家看到以后也能很快追上吗?
  • 你觉得智谱之前一段时间GLM就是他们的coding方面一直领先的核心原因是什么?
  • 字节其实一直coding,至少到目前还没有追上嘛,对吧?但你觉得这个是不是也是一个时间问题?
  • 那最后是不是还是拼卡……那如果中长期是拼卡的话,是不是还是大厂是优势最大的?
  • 所以今天你觉得各个模型大家在拼的是什么?
  • 你觉得目前市场有没有一个共识,说下一个阶段最核心的是哪个点?

孟繁青预测,开源社区的大版本模型会交替进入前两名,随后被其他厂商的新版本超过。他同意架构创新未必带来永久领先,但限定这主要是在看 Bench;真实使用体感未必与榜单同步。曲凯关于“GLM 长期领先”“字节 Coding 尚未追上”等表述是主持人的问题前提,不应改写成嘉宾已独立确认的事实。

对具体公司,嘉宾给出不同置信度的回答。他认为大参数模型在当前数据规模下仍能凭 scaling 获益,其他厂商可以追赶但存在时间差。对于智谱,他先说自己不太了解该公司,再依据朋友交流推测其 Coding Post-training 数据较好。对于字节,他区分“追上当前 frontier model”和“追上仍在前进的前沿”:前者可能只是时间问题,后者不好说。

面对“人才和数据都能花钱解决,最终是否只拼卡”的追问,他把组织架构加入解释。混元调整后的进步被嘉宾部分归因于组织设计,例如团队怎样划分、是否把多模态与预训练合并;节目没有内部资料证明这一因果。最后他将技术竞争归纳为架构在有限资源中提高产出、数据推动 Bench 表现、Infra 保证迭代速度,底层还包括组织协作,并判断下一阶段的市场共识是 Auto-Research 或 RSI。

话题推进:嘉宾把下一阶段指向 RSI。主持人于是先要求定义术语,再逐层挑战模型、Harness 和应用公司的边界。

00:21:50–00:28:02下一个焦点RSI:模型自我迭代的多种层次与未来

  • 我们听到过非常多词,对吧?叫Self-Evolving自进化,然后AI for AI,对吧?然后就是你刚才说的RSI,对吧?……你能不能给大家先解释一下这几个词到底是个什么东西?
  • 我理解这件事其实有几层可以做啊……这几个你理解都算RSI吗?还是怎么样?
  • 但听起来真的是让它能自己训练自己,这个应该是最难的了,对吧?这个算是pre-training的部分了吗?是不是?
  • harness这个我想理解一下……未来几年呢,就没有harness层这个事情了,就都是模型的事情了。我不知道你怎么看这个。
  • 所以你觉得未来几年还会有第三方harness存在的空间吗?……还是其实我这个责任也交给模型厂商了?
  • 但我觉得这里一直我会有个疑问啊……如果真的是相信RSI……那既然模型都能训自己,它还有什么不能写的呢?……那如果真的到那天的话,那旧仍然是模型吃掉一切的逻辑吗?

曲凯列出 Self-Evolving、AI for AI、RSI 等词。孟繁青给出的共同形式是:给模型一个环境与目标,让它持续操作、获得结果反馈、修改此前操作,追求突破原有上限。这里“突破上限”是目标,不是每次循环都能实现的结果。主持人进一步区分最外层产品输出迭代、中间 Harness 迭代、底层模型自我训练;嘉宾愿意把它们纳入宽泛框架,但也承认大众语境常把 RSI 更窄地用于“模型迭代出更强的自己”,把 Auto-Research 用于写 GPU kernel 等具体研究产物。宽泛形式相同,不代表改进对象与证据要求相同。

对于“从零复刻并超越自己才算 RSI”的说法,嘉宾明确是在转述自己听过的 AGI 观点,并提出“复刻但不超越”与“复刻且超越”的差别;它不是本期给出的公认 AGI 定义。模型自我训练也可同时涉及预训练和后训练,不能简单归入其中一个阶段。

谈到 Harness,嘉宾认为它不会因模型变强而消失,因为后训练中的模型输出会经过 Harness,模型由此逐渐适配配套工具与工作流。他提到“经过反向传播”时,并未证明梯度直接穿过外部软件代码;更稳妥的理解是,Harness 参与产生训练轨迹、环境反馈和评测分布,从而塑造模型行为。Kimi Code 与未公开发布的 DeepSeek 内部 Harness 都是嘉宾所举例子,后者无法由本期独立确认。

他判断通用 Coding 领域第三方 Harness 的必要性会下降,但垂直领域仍可用较弱开源模型和简单 workflow 换取更低成本、更快速度。面对“强模型也能自动写垂直 Harness”的挑战,他区分“由谁写 Harness”和“运行时调用什么模型”:强模型可以生成工具链,实际执行未必需要最强模型。他进一步设想由强模型指导小模型在垂直场景迭代,部署时只用小模型;这是一条路线设想,节目没有展示其已稳定实现或普遍优于直接调用大模型的结果。

话题推进:沿着“谁拥有模型、谁提供 Harness”的问题,对话进入模型降价、数据隐私,以及创业公司为何不直接做 RSI 基模。

00:28:02–00:56:38连续对话 2

00:28:02–00:30:38创业公司做RSI,为何不直接做更好的基模?

  • 如果模型能自我研发和进化,为什么创业公司不直接瞄准做一个比OpenAI更好的基础模型?
  • 为什么不是模型厂商自己做出RSI?这应该是他们主路径上很看重的一块。

曲凯先以“GPT 刚降价 80%”为引子,推测可用模型可能趋近免费。节目没有交代具体模型、价格项和计费口径,不能据此计算成本下降幅度。孟繁青补充两个约束:降价可能来自开源与商业竞争,并不只反映成本;若未来出现垄断,价格未必持续下降。垂直行业的数据隐私需求,也可能使本地或开源模型仍有价值。曲凯认为寡头垄断不太会发生,嘉宾仅回应“不好说”,这部分应保留为双方的开放讨论。

随后主持人提出核心挑战:如果 RSI 真能让模型研发自己,创业公司为什么不用它直接做比 OpenAI 更好的基础模型?又为什么机会不都属于本就在主路径上的模型厂?

孟繁青的回答是,他近来倾向于把“RSI 基模”理解为模型厂自己训练的基础模型,而不是另一类独立模型。Evolvent AI 因而不打算训练一个 RSI 专用基础模型,也不把发布一套通用 RSI Harness 当作定位,而希望在模型厂和应用公司之间建立 RSI 通道。这里表达的是公司定位与路线选择,不是“专用基模和 Harness 在技术上绝对无意义”的已证结论;通道的具体产品接口、训练对象、交付方式及验证结果,需要结合后文 RSI Bench 与公司业务继续理解,本期尚未完整说明。

DFS(Depth-First Search,深度优先搜索)沿一条路径深入,失败后回溯并尝试其他分支的搜索算法。嘉宾借它类比 Agent 的探索与修改;LLM 可决定下一步和剪枝,但这种类比不意味着所有自我改进系统都采用同一搜索实现。
World Model(世界模型)估计在某种状态采取行动后,后续状态如何变化。在 kernel 例子中,可理解为预测某种代码优化对运行结果的影响。嘉宾认为这类知识已在预训练中内化;能否可靠用于具体任务仍需实测。
Value Model(价值模型)估计一个状态、动作或探索方向的长期收益,帮助决定继续、修改或放弃。即时评分只评价当前候选,价值判断还需考虑后续潜力;两者不能混为一谈。
合成数据(Synthetic Data)本期主要指模型在构造环境中围绕目标探索后保存的交互轨迹。输入包括环境、任务、生成模型与运行预算,输出可包含动作、观察、答案和评分。它仍可能有错误、作弊、偏差或任务泄漏,需要筛选及训练后验收。

话题推进:定位仍然抽象,主持人追问 RSI 的技术核心;嘉宾随后用搜索、反馈、世界模型和价值模型给出统一解释。

00:30:39–00:35:28RSI的本质:一个更聪明的深度优先搜索(DFS)

  • RSI这件事的实现,最核心的点是什么?是不是可以理解为,只要模型的AI coding能力越来越强,它慢慢就能做到了?
  • 按照你的讲法,你其实更看好的是现有的模型自己去做RSI这件事,对于New Lab来讲,它做这件事的机会可能没有那么多?
  • 假设算法能够自迭代,数据会不会反而变成瓶颈,还是说数据也能自己转起来?

孟繁青把不少 Self-Evolving 方法类比为“更聪明的 DFS”。以 GPU kernel 为例,模型生成一个版本,评分程序给出性能反馈,模型再决定修改当前方案还是回到较早节点。传统 DFS 的回溯由固定算法控制,这里的候选生成、路径判断和剪枝更多交给 LLM。这个类比强调探索结构,不表示所有 RSI 方法真的实现了深度优先搜索,也不保证输出一定优于初始版本。

他认为有效剪枝需要估计“操作后会发生什么”与“那个状态有多大收益”,分别对应 world model 与 value model,并判断基础模型预训练已内化这些能力。因此他不再认可独立的“RSI 基础模型”概念,把进步来源归到更好的世界知识与更长上下文:上下文越长,可保留和回看的探索历史越多。这里有两个证据边界:预训练提供相关能力,不等于所有任务上都形成可靠的状态预测与长期价值估计;更长窗口提供记忆容量,也不自动解决错误归因、无效回溯和反馈噪声。转录中的“最高到 1M”是嘉宾当时的概括,不是本期核验的统一上限。

对于数据能否自我进化,嘉宾说团队 RSI Bench 聚焦 data 层,已看到 Agent 有一定“自己合成更好数据”的能力。应将其与前文“能修格式、不能提出 insight”合并理解为有限的局部改进,而非开放研究策略已经自主。节目没有给出数据质量、训练提升或人工对照,因此不能写成实验已证明完整数据 RSI。

主持人进一步推演模型公司最终可能只需十到二十人。嘉宾只说从结果逻辑上可能,但现实还受多方面因素影响,未必如此极端;这不是他给出的明确人员预测。

话题推进:数据被放进 RSI 过程后,主持人开始追溯数据需求的几次变化,并讨论合成数据为何会先成为生意、又可能遇到订单收缩。

00:35:28–00:40:35数据需求的演变:从人力标注到合成数据,再到RSI数据

  • 数据需求经历了哪几波变化?合成数据是第三代大趋势吗?
  • 这三代数据(普通标注、专家标注、合成数据)是并行还是替代关系?真人数据和合成数据之间又是什么关系?
  • 模型厂商自己也能造数据,为什么还要外采?
  • 为什么你觉得外采合成数据的需求未来会变少?
  • 数据的下一波机会可能是什么?

曲凯把数据需求概括为普通人标注、专家标注和合成数据三波,并提到 Scale AI 与转录为“Moko”的公司或产品名。孟繁青同意合成数据是一波趋势,但认为它可能已到中后期。“三代”主要是主持人的组织框架,三类数据在现实中仍然并行,并非后一代完全替代前一代。

嘉宾认为早期噪声较多的 raw data 需求减少,专家数据在转录所称“O1”出现、推理需求上升后曾很受重视;现在模型变强,专家不仅要解题,还要出不与市面重复的新题,供给难度提高。原分析稿把“O1”改成“GPT-4o”缺乏文本依据,本次恢复 O1。关于“ChatGPT 那一代 raw data 更 for 预训练”等表述,也只作为嘉宾对数据市场的粗略划分,不能当成对某模型真实训练配方的披露。

Agent 数据在本段被分为两条来源。合成轨迹来自人为构造的环境:给模型目标,让它探索、操作、完成任务并记录过程;真人轨迹来自真人在自身工作环境中的交互。嘉宾称真人数据噪声多、要清洗,而合成数据更可能直接用于训练,但这不构成“所有合成数据无需过滤”的保证。前述正确性、hacking、难度、目标提分和其他能力退化检查仍然适用,环境与评分器本身也可能出错。

价格方面,嘉宾说贵的长程合成任务可卖“好几千”,做题类专家数据约“一两千”量级,真人操控轨迹往往按量合作,难用统一单条价格表示。币种、任务长度、评分与交付要求并未完整说明,这不是标准市场报价。个人日常聊天记录则被他认为难以直接出售,原因包括脏数据和合规问题。

模型厂外采的解释是补充内部数据分布、减少团队 bias;他预测普通 Agent 数据外采会减少,因为好的 Bench 更难做且逐渐收敛,模型厂可集中内部资源。下一波机会则可能是“RSI 数据”:一个模型后训练另一个小模型并提升其效果,完整轨迹可能要十几小时甚至一天,制作也需要训练背景。团队已有这方面工作,但本段没有展示该轨迹用于再训练后的收益,因此它是正在探索的数据类型与市场判断,不是已经证明更高回报的第三代替代品。

话题推进:长轨迹把数据生产与训练系统连接起来,主持人顺势提出“算法就是数据,数据就是 Infra,Infra 就是算法”的流行说法。

00:40:35–00:46:10“算法即数据,数据即Infra,Infra即算法”

  • 最近有个流行说法:‘算法就是数据,数据就是Infra,Infra就是算法’,你怎么看?
  • 未来大家还会往更高数据量去走吗?合成数据会变成无限数据吗?

孟繁青用三个对应关系解释这句流行话。“算法就是数据”指当训练方法趋同,例如他以 RL 收敛到 PPO 为例,差异更多来自输入数据;这是一种强调数据重要性的概括,并不证明 PPO 是所有 RL 任务的统一最优算法。“数据就是 Infra”指数据形态会改变系统瓶颈:RL 推理完成一批样本后才能进入后续训练,长尾样本会让其他计算资源等待。“Infra 就是算法”则指大模型、长上下文 SFT 所需的 GPU 与上下文并行设计,本身与可训练的模型规模和轨迹长度紧密相关。

他给出的长尾算例是:100 条数据中前 99 条在一分钟内推理完成,最后一条却要 100 分钟,其余卡因此等待。这是用于解释同步屏障和资源闲置的直观例子,不是一次公开性能测量,也没有披露具体调度方案。其技术含义是,轨迹更长、生成更慢后,原有训练与推理流程可能需要改变;不能把“Infra 已稳定”误读为系统不再需要优化。

对于数据是否会无限增长,嘉宾明确否定“无限数据”,但认为数量和质量仍会提升,理由包括 Agent 合成提供新来源、真实使用增加可反哺数据,以及模型尺寸增长带来需求。00:45:37 附近转录为“商源是在提高”,旧稿写成“熵源”并无依据,本稿不据此建立熵增机制。该段表达的是对数据供给的趋势判断,并未证明更多数据必然提高质量,也未解决错误轨迹累积、环境偏差和评测过拟合。

话题推进:合成数据既依赖生成模型,也依赖环境与反馈,讨论由此进入它与蒸馏的交叉,以及自我生成数据为什么可能继续提升模型。

00:46:11–00:48:17合成数据与蒸馏:硬蒸馏 vs. 有技巧的蒸馏

  • 聊到合成数据,难免会聊到蒸馏,很多人把这两者绑在一起看,你怎么理解?
  • 合成数据这件事,如果用好了,对于相对落后的模型来讲,价值是不是远高于领先的模型?
  • 如果我已经是领先模型了,用自己去造数据,出来的结果不就和现在一样吗?为什么还能提升?

嘉宾把合成数据流程再次拆成环境、问题、探索 Agent 与保存的轨迹。探索者可以是 Claude 等外部模型,也可以是内部模型;当使用外部强模型产生训练材料时,就进入本期口语语境中的“蒸馏”。这里主要讨论数据层面的教师—学生关系,没有展开 logits、概率分布匹配等更严格的蒸馏定义,因此不能把“合成数据”和“蒸馏”当成完全同义词。

他口语化地区分“硬蒸”和“有技巧蒸”:前者是在简单题环境中直接拿教师答案;后者则先构建复杂环境、合适题目与可靠评分,再借外部模型探索。按这个逻辑,技术资产不只是一条教师答案,还包括使答案可产生、可检查的任务系统。不过,复杂环境与评分器只提高数据可信度的可能性,并不自动保证每条轨迹正确,更不保证学生训练后在分布外任务上提升。

对于落后模型,嘉宾认为学习 margin 更大,因此蒸馏收益更明显;领先模型也能受益。主持人追问:领先模型自己生成的数据不就是原有水平吗?嘉宾回应,在同一模型进入复杂环境多次探索后,可以筛出正确轨迹,再用来训练自己并提高指标,并把本质归为 RL。

这里可进一步理解为“候选生成”和“奖励选择”共同作用:同一个模型并非每次输出都相同,环境允许采样多种尝试,评分器保留成功或更高奖励的轨迹,训练再提高这些行为出现的概率。它证明的是特定设置下自我训练可能有效,不意味着模型能凭空获得所有新知识,也不意味着循环可以无限持续。嘉宾说“这件事已经被证明”,但本期没有列出论文、任务或结果;验证器错误、reward hacking、轨迹多样性不足、目标 Bench 过拟合和采样训练成本仍是限制。

话题推进:自我训练为何有效之后,话题拉回到 AI Lab 的技术空间:Coding 之外,Auto-Research、AI for Science 与多模态分别承担什么角色?

00:48:18–00:53:57AI Lab的现状:技术路线趋同,组织形态成为新战场

  • 现在整体的模型状态、AI Lab的状态大概在什么空间上?是觉得现有技术路线空间还很大,还是需要新的架构和技术路线?
  • 为什么最近AI for Science火了起来?它似乎跟模型本身不在一个层上?
  • 如果把大厂和创业AI Lab分成两类,你怎么看未来的发展?
  • 有人说多模态、世界模型不在智力主线上,只有coding、数学才提升模型智力,你怎么看?

孟繁青认为 Coding 仍是提升模型智力的重要基础,相关 pipeline 相对稳定,同时 AI Lab 正把 Auto-Research 扩展到 AI for Science。写 GPU kernel、做数学问题、设计分子或蛋白质结构,被他放在同一类“长程生成—反馈—改进”的任务叙事里:既展示模型能力,也可能形成直接应用。此处“同一类”指任务形式相似,不代表代码评分器可直接验证科学发现,科学任务还需要各自领域实验与专家验收。

曲凯提到字节 Seed 的计划、Anthropic 和 GPT 的公开传播,嘉宾据此解释模型厂为什么需要 Coding 之外的展示场景。他把这理解为从解题Benchmark走向更高难度科学问题;转录中的“Science STM”和“outside 转到 Nobel”含义不清,本稿不猜补具体奖项、榜单或活动名称。模型厂借此 PR 也是嘉宾对动机的判断,不等于相关企业公开承认的唯一目的。

对于大厂与初创 AI Lab,嘉宾长期更偏好初创,理由是技术会在公司之间流动,组织怎样使整体迭代更快会成为差异。他把混元调整、多模态是否独立组队等作为组织问题的例子。主持人在 00:52:44 提到“Domo”,旧稿直接改写为字节豆包并补出“分拆”语境,证据不足;本稿保留为待回听的名称,不据此建立公司战略事实。

面对“只有 Coding 和数学提升智力,多模态与世界模型不在主线”的说法,嘉宾认为过于绝对。他承认资源约束使全模态优化困难,并用文本信息高度压缩、多模态噪声更多来解释后者发展较慢;这是其概念性解释,不是对比实验结论。他仍把视觉、听觉、触觉等多模态能力视为 AI 进入物理世界的必要组成。

话题推进:宏观讨论最后回到全期最敏感的问题:如果架构与自研能力才是基础,蒸馏对国内模型追赶到底有多重要?

00:53:57–00:56:38蒸馏只是加速手段,并非国模变强的决定性因素

  • 蒸馏这件事对于国内模型追赶的意义,占比有多高?
  • 如果有一天Anthropic等公司真的封掉了所有蒸馏门路,会影响国内模型追赶吗?
  • 如果蒸馏是好事,为什么字节跳动一直对外宣称不蒸馏?蒸馏的坏处是什么?

面对“蒸馏占国内模型追赶多大比重”的问题,孟繁青拒绝给百分比,但明确判断它不是决定性因素。他的解释是:预训练负责学习知识和形成智力基础,后训练是在既有分布上做 shift,提高原来可能答错的问题的正确率;国内预训练架构创新因而是追赶的主要基础。这是他采用的简化框架,不能反向理解成后训练只能调取已有能力、不可能改变模型的任务能力。

他举到 Kimi 的一个优化器,转录名称为“梦优化器”。原稿猜成“Momo”并写成已核实专名,本次删除该猜测,仅保留待回听项。关于架构和优化器对追赶贡献的大小,本期没有独立拆解。

在替代路径上,嘉宾认为,即便没有 Claude API,国内公司仍可用自身较强模型合成数据,也可投入人力积累数据,所以蒸馏只是激烈竞争中的加速手段。主持人进一步概括为“封掉蒸馏也不会根本影响追赶,只是更费劲”,嘉宾同意并限定为个人判断。这个结论依赖自身模型能否产生足够好的新数据、人工数据的成本与速度能否接受,以及竞争窗口是否允许;节目没有对这些条件做量化验证。

曲凯还问字节为何对外强调不蒸馏。嘉宾先说蒸馏像“抄近道”;随后“可能错失主路上的 insight”是主持人提出的解释,不能归成嘉宾已确认的字节内部动机。主持人最后把蒸馏总结为取决于使用方式的工具,这一价值判断也应与事实主张分开。

话题推进:主要观点讨论完毕,主持人最后请嘉宾回到 Evolvent AI 的实际工作、未来规划与招聘标准。

00:56:38–00:59:28连续对话 3

00:56:38–00:59:28Evolvent AI的业务方向与人才观

  • 你们现在有什么招人诉求吗?
  • 从researcher的角度,什么样的画像是你们特别喜欢的、最值钱的?

结尾处,孟繁青再次介绍 Evolvent AI:访谈时已运行约半年,团队以 00 后 researcher 为主。当前工作分为相互连接的两块。一块是合成数据合作与商业订单,在制作数据时也构建 Bench、进行学术探索;另一块是长期 RSI。此前他已将数据业务的作用概括为现金流与认知反哺,这里则明确说公司不会只做数据。

他对 RSI 路线的限定与前文一致:不聚焦 RSI 专用基础模型,也不把重点放在另做一套通用 RSI 方法,而是希望桥接模型厂与应用公司。已经发布的是 RSIBench-Data,官方 shownotes 提供 GitHub 链接;按嘉宾介绍,它在平台内针对 data 环节做 RSI 的初步探索。发布 Bench 说明项目与评测入口已经存在,不等于“桥接通道”的完整产品已经落地,也不等于数据自进化、垂直小模型迭代或商业需求均已验证。

曲凯询问招聘,嘉宾表示当时持续开放、可邮件联系,并偏好工程能力强的 researcher,不以论文数、引用数作为主要量化指标。他说“工程能力好比学术能力很强更好”是其团队选材偏好,不应扩写成所有研究岗位的一般价值排序。主持人和嘉宾在 00:58:48 左右结束对谈,之后是日语音轨片尾;本段没有遗漏额外的访谈问答。

RSIBench-DataEvolvent AI 已发布、官方 shownotes 附有 GitHub 入口的项目。按嘉宾介绍,它在数据环节探索 RSI,是团队连接模型厂与应用场景设想的初步实践。本期未完整披露其任务、对照与实验结果,因此不能由发布本身推断完整 RSI 已实现。

话题推进:访谈在 00:58:48 左右结束,随后进入片尾音乐;至此已覆盖逐字稿的最后一段。

以上是原对话的分段阅读。下面才开始提炼论证、解释机制并给出本文自己的判断。

主要论证:观点怎样由经历与例子支撑

他个人认为,国内模型与海外公开模型差距缩小,更值得关注的是资源约束下的预训练与架构创新;国内后训练的相对短板主要来自数据积累起步较晚。

孟繁青 · 00:12:48–00:17:09

他的因果链是:算力较少促使团队通过架构与优化提高效率,Kimi Linear 等被作为案例;海外厂商更早积累后训练数据,数据与组织沉淀又难以靠短期聪明想法完全替代。因此,不能把国内优势只概括为后训练工程能力。关于“卡只有 1/10”“早半年”和 DeepSeek 架构名称,均是本期未独立核验的口述。

成立条件:要支撑更强结论,需要同口径比较模型、训练计算、数据与架构,并排除教师数据、训练配方、评测选择等竞争解释。嘉宾也明确表示不确定该观点是不是行业共识。

蒸馏是国内模型补充数据和加速竞争的工具,不是变强的决定性因素;他判断外部通道被封闭后,自生成与人工数据仍可提供替代路径。

孟繁青 · 00:46:11–00:48:17;00:53:57–00:56:38

他把智力基础主要归于预训练,把后训练视为在既有分布上的调整。外部强模型可缩短数据积累时间,但自有强模型也能在环境内产生轨迹,人工投入还能补充数据。因此他不给蒸馏贡献百分比,只定位为加速器。

成立条件:替代路径必须能以可接受的时间和成本产生足够好的数据,自有模型还要能突破原有失败模式。节目没有量化失去外部教师后迭代速度、数据分布和最终能力的差异,因此“只会更费劲一点”仍是个人预测。

他用“环境+目标+持续反馈”统一描述 Self-Evolving、Auto-Research 与 RSI,并认为独立 RSI 基模不是 Evolvent AI 应走的路线。

孟繁青 · 00:21:50–00:35:28

他将 Agent 的探索类比为会剪枝的 DFS,以 world model 预测动作后果、value model 估计方向收益,再把能力来源归到基础模型预训练和上下文长度。由此,他认为模型厂本身就在发展所需的基础能力,创业团队更适合连接模型厂与应用层。

成立条件:这一框架能描述反馈循环,但要从搜索成功推进到参数层面的递归自我改进,还需证明反馈能改变模型、提升能迁移到未参与搜索的任务,并且收益在重复迭代和总算力成本下持续。预训练相关知识、Harness 与后训练各自贡献不能仅凭类比确定。

普通 Agent 合成数据订单可能减少,下一波高价值数据可能是记录一个模型训练另一个模型的长程 RSI 轨迹。

孟繁青 · 00:35:28–00:42:48;00:56:38–00:58:00

他认为好 Bench 变少且更集中,模型厂会将普通数据生产收回内部;RSI 数据则需要训练知识,一条轨迹可能运行十几小时到一天,供给门槛更高。Evolvent AI 已在这方面开展探索,数据业务同时提供现金流与 know-how。

成立条件:这是市场预测与路线选择。轨迹运行时长不是价值证明,还要检验它用于后续训练时的独立增量、跨任务迁移、可复用性,以及相对普通轨迹和直接调用强模型的总成本。

模型厂的竞争不仅取决于算力、架构、数据和 Infra,也会受到组织架构与协作效率影响;他长期更偏好初创公司。

孟繁青 · 00:17:09–00:21:50;00:51:39–00:53:57

当技术与人才在公司间流动,组织怎样划分团队、减少协作损耗可能影响迭代速度。他用混元调整、多模态是否与预训练合并等例子说明这一判断,并在创业后更加重视组织设计。

成立条件:这些案例没有调整前后的量化对照,不能把模型进步主要归因于组织调整。要比较组织作用,还需控制算力、人员、数据和同期技术变化,并观察实验到发布的周期与成功率。

机制与术语:对象、输入输出和中间过程

新式 Agent Bench:环境、任务与分项验收

技术对象:在模拟工作环境中连续使用工具的 Agent,而非只输出一次答案的语言模型。

输入:真实或模拟工具的初始状态、用户任务、允许的操作和评分点。过程:Agent 读取观察、调用工具、修改环境并产生交付;环境返回新的状态或错误。反馈:多个细分检查项评价任务是否完成,人和 Agent 可参与设计与检查。输出:任务得分、最终环境状态与可回放的轨迹。

嘉宾用“相同输入下模拟 Notion 与真实 Notion 输出是否一致”说明环境一致性检查。它能发现工具行为差异,但不能覆盖所有操作、异常和长期状态。评分点过少会漏掉重要结果,过多或过细又可能引导针对评分器优化。环境真实性、评分可靠性与防任务泄漏是三项独立工作。

对应节目:00:04:37–00:07:12

本文自拟示意,不是嘉宾实验

【本文自拟示意,不是团队实测】若任务是整理项目空间,输入不只是“请整理”一句话,还包括文件、权限和工具状态。Agent 的移动、命名与写入都会改变环境;评分可分别检查目标文件是否存在、内容是否保留、位置是否正确。每个得分点回答一个具体验收问题。

合成数据:从环境 rollout 到训练后验收

技术对象:由模型在任务环境中探索得到的训练轨迹。输入:环境、问题或目标、生成模型、工具与运行预算。过程:模型多次采取行动,环境返回观察与评分,系统保存问题、模型轨迹和最终答案。反馈:先检查答案正确性、轨迹是否作弊、难度是否适中,再将筛选后的数据用于训练,检查目标 Bench 与其他能力。输出:候选训练数据,以及经过训练得到的新模型版本。

成本来自环境和评分器设计、生成模型的多次调用、失败 rollout、筛选、训练与回归评测。嘉宾关于“真人数据要清洗、合成数据可直接训练”的对照强调后者流程更可控,不能理解成合成数据天然无噪声。错误评分器会批量制造高分的错误轨迹,过难任务可能大量失败,过易任务又可能缺少新学习信号。

对应节目:00:10:35–00:12:48;00:37:02–00:38:35

本文自拟示意,不是嘉宾实验

【本文自拟示意,不是团队实测】同一个模型对一项任务尝试多次,可能只有部分轨迹真正完成。系统不能只保存最流畅的回答,而要利用环境和答案检查保留成功轨迹,再观察这些轨迹训练后是否提升未泄漏的同类任务,以及写作等其他能力是否退化。

蒸馏与自我生成:教师来源不同,环境和筛选仍可复用

技术对象:为学生模型提供训练材料的生成者。使用 Claude 等外部强模型时,进入本期所说的数据蒸馏;使用内部模型时,则是自生成。两者的输入都可包括环境、题目和评分器,输出都是候选轨迹,差别在知识与行为来自外部教师还是模型自身。

嘉宾所说的“硬蒸”偏向直接拿教师答案,“有技巧蒸”则把主要工作放在复杂环境、题目和可靠评分上。后者增加的是可构造、可探索、可检查的任务系统,不是给同一抄袭行为换名称。反馈既包括对教师轨迹的验收,也包括学生训练后的独立测试。限制包括教师错误被复制、学生与教师差距、数据同质化、环境偏差、合规要求,以及生成和筛选成本。

领先模型使用自身数据时,候选人并不会每次都完全相同。采样与环境探索产生多种尝试,评分器选出高奖励轨迹,训练再提高相应行为的概率。这里的增益来自“多样候选+可靠选择+参数更新”,不是把同一个答案复制给自己。本期没有给出自我训练可无限迭代或突破所有能力上限的证据。

对应节目:00:46:11–00:48:17

本文自拟示意,不是嘉宾实验

【本文自拟示意,不是团队实测】同一道有自动检查的任务,模型第一次答错、第二次答对。如果只把第一次回答再次写入训练集,没有新监督;如果保存第二次的正确操作及其反馈,再训练模型提高这类操作的概率,才形成嘉宾所说的自我提升路径。能否推广到新题仍需另测。

RSI 的两个层次:搜索改进产物与训练改进模型

层次一:推理时搜索。输入为目标、环境和初始模型;模型生成候选,评分程序反馈,LLM 决定继续、修改或回溯;输出是更好的代码、答案或方案,以及探索轨迹。嘉宾用“更聪明的 DFS”描述这一层,world model 对应预测动作后果,value model 对应估计探索方向收益。此时基础模型参数可以始终不变。

层次二:参数更新。将搜索得到的轨迹用于后训练,得到新模型,再在未参与搜索的任务上测试。只有新模型后续表现改善,才有证据谈模型能力提高;要继续称为递归改进,还需多轮迭代在固定预算下保持增益,而非只跑一次长搜索。

嘉宾认为预训练内化世界与价值知识、更长上下文保留更多历史,是 RSI 进步的主要来源。审读者据此保留两个限制:知识存在不等于在具体任务中能准确估值,长窗口也不等于能正确归因。评分不可靠、探索缺少多样性、错误回溯、训练成本与过拟合都会中断循环。

对应节目:00:21:50–00:25:32;00:30:39–00:35:28

本文自拟示意,不是嘉宾实验

【本文自拟示意,不是团队实测】写 kernel 时,评分程序把运行时间从 10 降到 8 毫秒,说明这个代码候选更好;若模型参数没有更新,不能由此称模型本身已自我训练。把成功轨迹训练进模型后,再在新 kernel 上比较修改前后的成功率与运行时间,才检验第二层提升。

RSI 数据设想:记录“模型训练模型”的完整过程

技术对象:一个模型指导另一个小模型后训练的决策轨迹。输入:教师或研究 Agent、待训练的小模型、初始数据与环境、评测目标和计算预算。过程:研究 Agent 选择或修改数据、发起训练、读取结果、诊断失败并继续调整。反馈:小模型在目标及其他任务上的变化。输出:改善后的小模型,以及包含数据修改、训练与评测的长轨迹。

嘉宾认为这类轨迹需要十几小时到一天和模型训练知识,因而可能成为下一波高价值数据。成本不仅是运行时长,还包括环境、训练算力、失败实验、人工设计与最终验收。轨迹本身可以记录“做了什么”,但只有将它用于另一个模型或 Agent 并产生独立增量,才能证明它作为训练数据的价值。团队在做此方向,不表示这一训练用途已在本期得到验证。

对应节目:00:40:35–00:41:13;00:42:24–00:43:00

本文自拟示意,不是嘉宾实验

【本文自拟示意,不是团队实测】研究 Agent 发现格式退化,修改一批数据并重训小模型;随后检查目标任务回升、其他任务未退化。保存“发现→修改→训练→验收”的轨迹,比只保存最终数据包含更多研究决策信息,但还需要对照实验验证另一个 Agent 能否从中学到可迁移策略。

训练服务化与长轨迹 Infra:操作简化不等于瓶颈消失

模型厂内部 SFT 服务将资源分配、环境配置与训练执行封装,研究员提交数据和请求后得到结果。这降低执行门槛,却把系统可靠性、数据质量和诊断责任分别留给 Infra 与研究人员,并未消除它们。

在 RL 数据生成中,如果一批样本必须全部推理完再进入训练,最慢样本会形成同步长尾。嘉宾用“99 条一分钟、最后一条 100 分钟”说明其他计算资源等待。更长的 Agent 或 RSI 轨迹会放大生成、存储、失败恢复和调度成本,反过来要求 Infra 与训练流程调整。该算例用于解释机制,不是公开性能测量,节目也未宣称某种具体调度方案已经解决它。

对应节目:00:07:12–00:10:35;00:43:00–00:45:10

本文自拟示意,不是嘉宾实验

【按嘉宾算例重述,不是公开性能测量】若前 99 条样本在一分钟完成,而最后一条需 100 分钟,批处理总等待由最慢样本决定。这是长尾造成空闲的直观图景;在评价优化时还应看整批完成时间、总 GPU 小时、失败率和数据质量,而不只看单条生成速度。

独立判断:这些对话改变了什么理解

本期最重要的技术分界,是“搜索得到一个更好产物”与“训练得到一个更强模型”。嘉宾的宽口径有助于统一讨论,也容易让两者的证据混在一起。

推理:GPU kernel 的持续修改只需固定模型、可执行环境和评分器,就能改善当前代码;即使成功,也没有证明模型下次面对新任务更强。参数更新则需要将轨迹用于训练,并在未参与搜索的新任务上复测。若进一步主张 RSI,还需多轮固定预算比较,排除只靠更长搜索时间或更多人工评分换来的单次收益。

竞争解释与边界:可用同一基础模型比较一次性生成、多样采样选优、LLM 引导搜索、搜索后训练四组,统一总调用与 GPU 预算,在保留环境和新任务上同时测量产物质量、后续成功率、人工干预和成本。这样能判断增益来自搜索、训练还是额外资源,而不是只展示一条成功长轨迹。

“有技巧蒸馏”的核心贡献应从教师答案转向环境、题目与评分器,但这些资产仍不是数据正确性的充分保证。

推理:外部教师只负责产生候选,复杂环境决定候选需要解决什么问题,评分器决定哪些轨迹被留下。由此,即使不同团队调用同一个教师,数据价值也可能不同。这支持嘉宾对后训练 know-how 的强调,也说明不能将效果全归于外部模型。反过来,评分器遗漏的条件会被教师和学生共同利用,环境分布偏差也可能让训练只学会模拟世界。

竞争解释与边界:更有效的归因方式是在同一学生与训练预算下,交叉比较外部教师/自生成、简单答案/环境轨迹、弱评分/强评分,并使用独立测试与人工抽查。若复杂环境只提高训练集分数而不能提高独立任务,就不能据此宣称蒸馏更有技巧或更通用。

嘉宾把 RSI 能力主要归于预训练,是一个有待拆分的因果判断,不能直接推出专用后训练或 Harness 没有独立价值。

推理:预训练确实可能提供状态预测、价值判断与修复经验,但同一个基础模型能否在某环境中持续探索,还受工具接口、上下文组织、反馈可见性和训练分布影响。更长上下文增加可用历史,并不自动带来更好的信用分配;“已内化 world model 与 value model”也不是在所有领域都已验证的完整能力。

竞争解释与边界:要识别来源,应固定基础模型,分别改变 Harness、反馈与后训练数据,并比较同一预算下的成功率、恢复能力和跨环境迁移。若这些变化带来稳定差异,就说明预训练潜力与实际 RSI 表现之间仍有独立工程和研究环节;这不等于已经证明另一种技术路线可行。

“RSI 数据是下一波机会”目前更适合作为待检验的产品假设,而不是由运行十几小时自然推出的商业结论。

推理:长轨迹记录数据修改、训练、失败诊断和评测,确实比普通问答包含更多研究决策信息,也可能更稀缺。但生成时长只说明成本,不说明可复用价值;一条特定小模型的成功过程,可能无法迁移到另一基座、任务或训练栈。团队已有数据业务和 RSI Bench 能提供试验入口,却不能替代下游训练证据与付费需求验证。

竞争解释与边界:应比较普通成功轨迹、包含失败诊断的 RSI 轨迹以及等量直接环境交互数据,观察新 Agent 在未见训练任务上的数据修改质量、最终学生提升、人工干预和总成本。若长轨迹只增加 tokens 与算力而没有独立增益,其商业价值就需要重估。

国内外模型差距、蒸馏贡献和组织作用的讨论提供了清晰假设,但节目中的公开表现与个案不足以识别唯一因果。

推理:架构、数据、人才、组织与发布时间往往同时变化;公开榜单也未必代表实际体验。嘉宾将资源约束、架构创新和数据积累串起来很有解释力,同时主动限定了自己对部分公司的了解与共识程度。保留这些限定,比把“预训练决定一切”或“组织调整带来突飞猛进”写成事实更符合原访谈。

竞争解释与边界:后续证据应分别核对同口径模型计算与数据、独立任务体验、组织调整前后的研发周期,以及去掉外部教师后的成本和能力变化。若这些因素不能分开,结论应保持为多因素解释,而不是在几个强判断中选一个作为唯一答案。

尚未解决的问题与可检验的下一步

待解问题:RSIBench-Data 所观察到的数据层自进化,究竟只是局部修复,还是能提出新数据策略并在未见任务上持续提升?

下一步信息或小实验:公布任务、初始模型、搜索预算、人工评分与训练协议;比较人工策略、机械修复、Agent 修改和无修改基线,并检查目标 Bench、保留能力、任务泄漏和多轮增益。

怎样的结果会改变判断:若 Agent 只能修格式等已知错误,不能改善开放数据策略,嘉宾关于“尚无 insight”的判断就得到更具体支持;若它在固定预算下多轮产生可迁移增益,则应上调其数据 RSI 能力评价。

待解问题:复杂环境与高质量评分能否让外部教师或自生成轨迹稳定提升学生,而不是只对评分器过拟合?

下一步信息或小实验:固定学生与预算,交叉比较教师来源、环境复杂度和评分强度,使用独立人工检查、未见环境与目标外能力回归测试,同时记录失败 rollout 和总成本。

怎样的结果会改变判断:若复杂环境只提升源 Bench,独立任务无改善或 hacking 增加,“有技巧蒸馏”的价值就应收缩;若不同教师都因同一环境与评分获得可迁移增益,则环境资产的独立贡献更有说服力。

待解问题:记录一个模型训练另一个模型的 RSI 轨迹,作为后续训练数据是否有超出其生成成本的增量?

下一步信息或小实验:用同一研究 Agent 分别学习普通问答、成功结果和完整 RSI 轨迹,在未见的小模型与任务上比较数据修改质量、最终学生效果、干预次数、泛化和总 GPU 小时。

怎样的结果会改变判断:若完整轨迹不能提高新任务表现,或其收益可由更便宜的过程数据获得,则“下一波高价值数据”应降为小众需求;若它能稳定减少人工诊断并提升学生效果,才支持更高价值判断。

待解问题:预训练、上下文、Harness 与后训练分别对长程自我改进贡献多少?

下一步信息或小实验:固定模型与总预算,逐一改变上下文组织、工具工作流、反馈形式和后训练轨迹,测试新环境成功率、错误恢复、回溯质量和人工干预,而不是只测最长运行时间。

怎样的结果会改变判断:若仅扩大预训练或窗口仍不能提升闭环表现,而 Harness 或后训练带来稳定提升,就应弱化“RSI 能力已主要由预训练内化”的单一解释;反之亦然。

影响理解的转录疑点

若只精读三段,建议先看 00:21:50–00:35:28、00:35:28–00:48:17 和 00:56:38–00:58:48。第一段给出嘉宾对 RSI、Harness、搜索与基础模型的统一框架,需特别区分推理时改进和参数更新;第二段连接数据生产、外采、蒸馏、自我生成与长轨迹成本;第三段回到团队已经开展的合成数据业务、RSIBench-Data 初步探索和未来定位。理解国内模型竞争力的判断时,再对照 00:12:48–00:17:09 与 00:53:57–00:56:38,注意嘉宾对共识程度、数字和因果的限定。

证据边界与资料索引

本页依据整期机器转录、官方节目介绍与章节逐段重建,未宣称逐字人工听审。说话人、专名、数字和时间可能存在识别误差;原声仍是最终核对依据。嘉宾关于公司、市场、研究、个人经历与未来的说法按口述保留,不自动等于独立核验的事实。

原节目:从蒸馏到合成数据到 RSI,模型竞争的下一个焦点是什么?|对谈 Evolvent AI 联创孟繁青

本页使用的公开文字或字幕来源

返回顶部