行动力
让系统能写代码、跑实验、读日志、修改参数，属于自动化执行。
先给结论：AI for AI 的第一步不是让模型更勤奋，而是让研究更可记录
这期节目最有价值的地方，是把“自动研究”拆成三个不同问题。第一，模型能否执行更多实验，这是行动力问题；第二，模型能否理解实验为什么有效或失败，这是机制与科学问题；第三，模型能否在实验前预测哪条路线更有希望，这是研究效率问题。把三者混成“模型会自我进化”，就会跳过最难也最关键的中间层。
刘子鸣的路线把中间层命名为 Physics of AI / Science of AI：用科学方法研究模型的表示、训练动力学、架构适用条件和实验因果，再把这些 insight 自动化。它不要求短期内写出一套像牛顿力学那样完备的 AI 理论；短期目标可以只是让研究假设、干预、结果和失败原因变得可比、可检索、可重复。
本文的核心判断AI for AI 的第一性问题是研究数据的可结构化程度，而不是模型是否已经足够大。没有“观察—问题—假设—干预—结果”的可追踪记录，Coding Agent 只会更快地试错；有了这种记录，才可能训练出能帮助研究者排序实验、预测曲线和发现架构的系统。
理解力
解释结果为何发生，识别适用条件，属于 Physics of AI 的对象。
研究力
在实验前预测下一条曲线、筛选候选架构，属于 AI for AI 的效率目标。
节目地图：从 KAN 到原模型，再到 training autopilot
| 时间 | 节目内容 | 要解决的问题 |
|---|---|---|
| 00:00–08:24 | 从物理转入 AI，MIT、斯坦福与清华的研究和创业位置。 | 为什么自然科学训练会推动他关注模型的结构、可解释性和预测性。 |
| 08:24–20:20 | “鸟人”与“蛙人”、KAN、Max Tegmark 的质疑和说服。 | 模型设计能否从个人直觉变成可复现的研究方法。 |
| 20:20–37:11 | 神经与符号、AI 与自然科学、从 MIT 到 Stanford 的信念变化。 | 为什么后 LLM 时代需要重新重视抽象、结构和模型设计。 |
| 37:11–46:51 | 中美 new labs、世界模型、AI for Research 与融资体感。 | 新实验室是在追逐资本，还是在填补当前范式没有覆盖的研究空白。 |
| 46:51–1:04:20 | 与 RSI 的差异、60 天自我训练、原模型与下一条训练曲线。 | 怎样把研究直觉外化为能预测实验结果的模型。 |
| 1:04:20–1:40:35 | AI 黑盒的空间/时间/平行宇宙、机制可解释性、产品化和 Vibe Training。 | 从理解 AI 到训练 AI 的闭环还缺什么，以及它如何成为产品。 |
一、KAN 的意义：一个成功架构不是终点，而是“如何想到它”的样本
节目把 KAN 讲成一段个人研究史：刘子鸣试图连接神经网络与符号公式，先从可视化和结构表达出发，再意识到自己的方程与 Kolmogorov–Arnold 表示定理有关。Max Tegmark 最初担心它只是另一个黑盒，直到可视化让网络内部结构变得可观察，才认为它值得继续。
公开论文能确认 KAN 的技术骨架：它用边上的可学习一元函数替代传统 MLP 节点上的固定激活，并以数据拟合、偏微分方程和可解释性案例展示其潜力；KAN 2.0 则把这种神经—符号连接进一步扩展到特征、模块结构和符号公式。论文支持“这是一种具体的架构尝试”，但不支持把它直接写成“下一代通用模型已经被发现”。
| 访谈里的问题 | KAN 提供的局部答案 | 仍未解决的普遍问题 |
|---|---|---|
| 神经网络能否带有更清晰的结构？ | 边函数可学习、可视化，提供比固定激活更直接的结构入口。 | 结构是否在更大规模、更复杂任务和不同硬件上保持优势。 |
| AI 能否与科学符号连接？ | 在数学、物理示例中尝试发现或表达规律。 | 规律发现是否稳定、可迁移、能超过已有基线并形成闭环。 |
| 模型设计能否规模化？ | KAN 是一个由研究者提出并验证的样本。 | 如何从一例成功反推出可重复的设计搜索过程。 |
因此 KAN 在这期里真正的角色，不是“另一个要押注的架构”，而是一个 meta-example：研究者希望把自己提出 KAN 时使用的抽象、可视化、反例意识和实验判断，蒸馏成未来系统可以学习的过程。这也是从“发表模型”走向“自动化模型设计”的分水岭。
二、Physics of AI：把黑盒拆成空间、时间与可控实验
节目用三个方向描述如何理解 AI 的黑盒。第一是空间上看得更细：不只看端到端输出，也研究神经元、表征和内部模块。第二是时间上看得更细：观察模型从初始化、训练、grokking 到最终行为的演化。第三是“平行宇宙”：改变数据、超参数、架构或训练环境，做受控对照，绘制模型在不同条件下的相变和适用区域。
空间
像解剖一样看模型内部结构，但要警惕局部解释对随机种子、重参数化和任务变化不稳健。
时间
把训练轨迹当作对象，而不是只保存最终 checkpoint；曲线和阶段转折可能是研究数据。
平行宇宙
用控制实验找出某个 trick 在什么模型、数据和预算区域有效，而不是宣布它普遍有效。
这一路线有一个很重要的科学纪律：任何技巧都必须带适用条件。一个学习率在某个模型、数据集和训练预算上有效，不代表它是普遍规律；一个可解释性故事在一个随机种子上成立，也不代表它是模型内部稳定机制。所谓“AI 的物理学”，首先是在补齐实验条件和失败边界，而不是给模型能力增加更宏大的叙事。
清华人工智能学院公开主页将刘子鸣的研究方向分为 Science for AI、Science of AI 与 AI for Science，并明确把“务实的 AI 理论”与 Agent 系统联系起来。这与节目里的三分法相互校准，但机构页面仍是方向声明，不是产品进展或实验结果的证明。
三、AI for AI 的技术路线：先结构化研究，再预测下一条 curve
节目中最清晰的技术路线，可以写成四个阶段。第一阶段是把研究过程变成一种结构化语言；第二阶段是采集高质量的研究数据；第三阶段是训练一个能预测下一步行动或训练曲线的模型；第四阶段才是把它做成 training copilot / autopilot。
O → P → H → I → S
Observation → Problem → Hypothesis → Intervention → Speed-up
Observation → Problem → Hypothesis → Intervention → Speed-up
O-P-H-I-S 不是一个已经验证完成的标准，而是节目里提出的工作框架：研究者观察到什么，认为问题是什么，提出哪个假设，进行什么干预，结果是否带来速度或性能提升。真实研究不会严格线性地走完五步，但如果每次跳转都留下记录，模型才有可能从“实验结果”学习到“研究过程”。
| 阶段 | 输入 | 输出 | 最容易失败的地方 |
|---|---|---|---|
| 结构化 | 会议、实验日志、代码变更、论文和讨论。 | 可检索的 O-P-H-I-S 事件链。 | 只记录成功论文，不记录犹豫、失败与反事实。 |
| 数据化 | 模型、数据集、优化器、超参数和训练曲线。 | 模型配置—训练结果 pair。 | 不同实验不可比，或结果带有隐性人工筛选。 |
| 预测 | 候选架构与训练条件。 | 下一条 curve 的预测与不确定性。 | 模型只学到数据集、研究者或实验脚本的偏差。 |
| 闭环 | 预测排序、真实验证和新反馈。 | 更少无效实验、更快找到有效架构。 | 模型把自己的预测当事实，跳过真实实验。 |
“原模型”在节目中被描述为一个关于模型的模型：输入一个模型及其训练条件，输出它可能产生的训练曲线。这里的关键不是让它替代实验，而是把一百个候选想法先做廉价排序，最后仍由真实训练和外部评价确认。它更接近一个实验设计与训练预算分配器，而不是一个凭空生成新模型的魔法盒。
四、真正的瓶颈是研究数据，不是“再多几个 Agent”
节目对当前 AI for Research 的批评很具体：Coding Agent 已经有大量高质量、结构化、可执行的 GitHub 数据；研究却留下了大量没有被记录的直觉、讨论、失败和路径分叉。论文通常只呈现最后的结果，不能完整恢复研究者为什么在那个时刻选择那一个实验。
这解释了为什么单纯把 Coding Agent 接到更多论文上，未必会得到真正的研究者。它可以搜索、改代码、运行实验，但如果没有关于“什么现象值得追、什么失败意味着什么、哪个变量应该保持不动”的数据，系统只能扩大试错数量，不能稳定增加洞察质量。
纸面数据
论文、代码、表格和最终结果数量大，但研究动机、否定路径和选择条件经常缺失。
过程数据
讨论、草稿、实验日志、版本变化和未采用的假设更接近研究思维，却更难采集和标注。
个人模型
先预测某位研究者下一步会怎么做，可作为更容易落地的中间目标。
通用原模型
最终希望预测不同架构和训练条件的 curve，但需要大量可比较的模型—结果 pair。
节目里关于“每天收集多少条、两个月形成多少数据”的估算，应理解为团队正在探索的采集假设，而不是已经完成的数据集规模。对这条路线最重要的验证不是数据点数量，而是加入新研究者、新任务、新架构之后，预测是否仍然校准；如果只在一个团队的工作习惯上有效，那它更像个人记忆外化，而不是 AI for AI。
五、new labs 与资本：研究空白、人才选择和叙事速度同时发生
节目把 2026 年中美 new labs 的出现解释为两股力量叠加。一方面，顶尖研究者不一定愿意在大模型厂商中承担一个狭窄角色；另一方面，现有范式确实留下了世界模型、抽象能力、AI for Research 等仍需研究的空白。新实验室不是“研究已经结束后的产品团队”，而是试图在技术路径不清晰时保留一段 R&D 期。
但这段叙事也最容易受资本市场影响。节目中关于融资速度、投资人分类、估值和国内外市场体感的内容，属于嘉宾在录制时的亲历与判断；除机构履历和已公开论文外，本文不把这些口述延伸成未经独立确认的融资事实。资本愿意提前给研究时间，是一个资源现象，不是技术路线已经成立的证据。
| new lab 的承诺 | 真正需要证明的东西 | 最早的反例 |
|---|---|---|
| 先研究 6–12 个月，再产品化。 | 研究期内是否产生可复现的 demo、数据闭环或明显的路线收敛。 | 期限到了仍只能用宏大叙事描述方向。 |
| AI for AI 能加速 AI 研究。 | 在一个垂直领域提出并验证明显优于基线的架构或训练配方。 | 只增加实验数量，没有提高命中率或解释力。 |
| 高人才密度可以形成壁垒。 | 研究过程是否被组织化、记录化并能让新人复用。 | 能力依赖一个核心研究者，无法形成数据资产。 |
| 未来人人可以训练私有模型。 | 成本、数据隐私、训练可靠性和结果责任是否足够低。 | 系统仍需要专家手动调 recipe，用户只是换了一个界面。 |
六、机制可解释性：重要，但不能把“能讲故事”当成稳定机制
刘子鸣对 Anthropic 式机制可解释性的态度很有层次：一方面，神经元、稀疏自编码器和 transcoder 提供了观察模型内部的工具；另一方面，局部机制可能随着随机种子、模型重参数化和任务变化而不稳健。他并不是否定可解释性，而是提醒：解释的粒度、稳定性和可迁移性必须成为评价对象。
这和 Physics of AI 的关系是直接的。空间层面的内部解释如果没有时间维度和控制实验，容易变成一个漂亮但脆弱的故事；时间层面的训练轨迹如果没有结构化干预，难以区分相关和因果；平行实验如果没有明确的相位边界，就会把局部技巧包装成普遍规律。
可解释性的实用标准一个解释至少应该能在留出随机种子、留出数据、留出任务或轻微结构变化后继续预测行为，或者能指导一个新实验并改善结果。不能指导预测、干预或新实验的解释，仍有认知价值，但不应直接当成工程机制。
因此，AI for AI 不必先解决全部 neuron-level interpretability 才能前进；它可以从更粗粒度的训练动力学、架构变量、损失变化和任务迁移开始。但如果最终目标是让系统自动设计模型，那么“为什么这个结构适用”仍然比“它在一次测试上赢了”更接近可迁移知识。
七、从研究愿景到产品：training copilot 比“自动科学家”更可验证
节目后段把产品形态从终极的 training autopilot 往前拆成 training copilot：用户描述需求、预算和数据，系统负责提出模型设计、训练、部署并交付一个可用模型。这个愿景和 Vibe Coding 相似，但对象从代码变成模型；它的价值不在让所有人都变成研究者，而在于把训练能力变成一种按需求调用的基础服务。
短期而言，更可信的产品形态可能是研究团队内部的实验排序器、训练预算分配器、失败诊断器和个人研究记忆，而不是直接向普通用户承诺“人人都能训练出自己的模型”。因为训练的结果还涉及数据版权、隐私、成本、评测、部署和责任；模型能被生成，不等于它在真实任务中可靠。
Copilot
研究者提出目标，系统帮助记录、检索、排序和验证实验。
Autopilot
系统在预算和约束内自动执行大部分训练与部署流程。
责任层
系统必须给出数据血缘、预算消耗、评价覆盖和失败回滚，而不仅是一个 checkpoint。
“人人可训”是否会创造巨大需求，节目嘉宾自己也保留了问号。这个保留很重要：技术变便宜后，需求可能涌现，但不能反过来用想象中的需求证明技术路线。真正的产品验证，应先从高频、可评价、成本可控的垂直任务开始。
证据审计：把研究纲领、个人经验和融资叙事分开
| 主张 | 证据层级 | 当前能说到哪一步 | 不能偷换成什么 |
|---|---|---|---|
| KAN 是连接神经网络与符号/科学表达的一种具体架构。 | 论文与机构主页公开。 | 可以讨论其结构、案例和研究意义。 | 不能说 KAN 已经替代 Transformer 或证明了下一代架构。 |
| AI 研究需要 O-P-H-I-S 式结构化过程。 | 节目提出的工作方法。 | 是可实现、可对比的研究数据方案。 | 不是已被公开 benchmark 证明的通用标准。 |
| 原模型可以输入模型并预测训练曲线。 | 嘉宾提出的长期技术路线。 | 可以转化为模型—曲线 pair、排序准确率和校准度实验。 | 不能当作已经存在的产品能力或已验证的通用预测器。 |
| AI for AI 与 Coding Agent、RSI 等路线互补。 | 嘉宾对行业路线的理解。 | 可以作为路线比较框架。 | 不能代替对其他团队公开技术材料的独立分析。 |
| new labs 的融资速度和资本偏好发生显著变化。 | 访谈中的亲历口述。 | 说明录制时的市场感受和创业环境。 | 不能据此确认所有团队的融资金额、估值和技术成熟度。 |
我的判断：AI for AI 的第一个可交付物应该是“实验排序器”
这期最可行的近端目标，不是让一个模型自主发现“下一个 Transformer”，而是在一个清楚的垂直领域里，给出可校准的实验排序：面对若干候选架构、数据和训练预算，系统能够预测哪几个最值得先做，解释主要不确定性，并在真实结果回来后更新自己的判断。
这个目标足够小，能被验证；又足够接近终局，因为它迫使团队解决研究记录、模型—曲线 pair、候选空间、评价器、预算和反馈回流。若排序器只在训练分布里有效，它会暴露数据不足；若它能跨研究者和架构迁移，它才开始像研究基础设施。
更长远地，AI for AI 可能会同时需要两种能力：一种是连接主义的模式归纳，另一种是结构主义的实验约束。节目中所谓“AI for Physics of AI for AI”，本质上就是先用自动化系统理解模型，再用理解反过来设计模型。它不是一条已经被证明的捷径，而是一条把研究过程变成可积累资产的工程路线。
可以推翻本文判断的证据如果简单的 Coding Agent 在真实研究任务中，不依赖结构化过程就能持续提出可复现、显著超越人类基线的新架构；或者原模型在跨数据、跨架构、跨研究者的预测上长期不如随机搜索和人类直觉，那么本文对“结构化研究数据是第一瓶颈”的判断应当下调。相反，若实验排序和失败诊断能在小范围稳定提高命中率，这条路线的可信度会显著上升。
转录边界：机器转写可以支持结构化阅读，但不应伪装成逐字证词
#149 的公开视频时长与公开音频版本一致，但节目没有可用的官方字幕。本页以音轨机器转写结合官方章节为阅读基线，并用清华机构主页、KAN 论文和公开项目页面校正专名与可核验事实。转写没有可靠说话人分离，因此本文不对每句口语做强行的主持人/嘉宾标注；涉及路线、融资、个人动机和团队比较时，统一使用“访谈中提出”“嘉宾认为”等限定。
对“AI for AI”“原模型”“Vibe Training”等仍在演化的术语，本页保留节目语境，不把它们翻译成已经有统一定义的技术名词。对外部项目 RSI、Anthropic 和 new labs 的评价，也只记录访谈里的比较视角，不声称完成了对这些团队内部路线的独立审计。
证据边界与资料索引
本文把节目当作研究纲领与创业语境的高分辨率材料，而不是把访谈中的每个数字当成外部事实。公开论文和机构页面用来核验履历、KAN 技术结构与公开研究方向；研究路线、数据采集计划、融资体感、公司产品和未来时间表仍按嘉宾口述处理。
- #149 YouTube 视频 · 小宇宙节目页 · 公开转录页。
- 清华大学人工智能学院刘子鸣主页：教育、工作背景与 Science for AI / Science of AI / AI for Science 的公开研究方向。
- KAN: Kolmogorov-Arnold Networks：KAN 的架构定义、可解释性主张与论文实验范围。
- KAN 2.0: Kolmogorov-Arnold Networks Meet Science：KAN 与科学发现、特征和符号结构的扩展框架。
- Anthropic Research：仅作为访谈中机制可解释性讨论的外部入口，不用其作为对本期嘉宾观点的背书。
转录边界：本页不复刻完整逐字稿，不把机器转写中的同音词当作专名事实；时间戳用于定位节目章节，结论由访谈内容与公开一手材料共同约束。