OpenMLE 深读：把“AI 改进 AI”变成可执行的机器学习工程闭环

先把 OpenMLE 说成一句人话

OpenMLE 可以理解为“Open + MLE”：把机器学习工程（Machine Learning Engineering）变成一种可运行、可评分、可训练、可搜索的 AI4AI 环境。 给它一个任务，它不是只让大模型回答“应该用什么模型”，而是让模型写出训练程序，把程序放进沙箱运行，读取真实执行结果，再决定下一版如何改。

原帖到底发布了什么

原帖作者 Junlin Yang 发布的是 OpenRSI 的第一项公开工作：FrontisAI/OpenRSI 仓库及其论文 Frontis-MA1: Training an AI4AI Model towards Recursive Self-Improvement in Machine Learning Engineering。所以，帖子的重点不是“又出了一个 35B 模型”，而是公开了一套把模型训练和推理搜索对齐的系统。

原帖给出的三个组件是：

在这套系统上训练出的模型叫 Frontis-MA1。MA1 不是 OpenMLE 的同义词：OpenMLE 是环境、训练和搜索栈，Frontis-MA1 是其中被后训练出来的“元进化 Agent”，负责提出下一版机器学习程序。

第一层：OpenMLE-Gym 把机器学习任务变成环境

没有可执行的任务，就没有可靠的“进化”。OpenMLE-Gym 的作用类似强化学习里的环境，但对象不是走迷宫的动作，而是一个完整的机器学习程序。任务包包含自然语言说明、公开数据、提交契约、任务专属评测器、沙箱和资源预算。

5,758 个任务是怎么来的

论文给出的来源构成为 156 个人工整理的锚点任务、3,362 个 Kaggle Dataset 任务和 2,240 个 Kaggle Competition 任务。任务覆盖表格、图像、时间序列、多模态、文本、音频和视频，但分布并不均匀：分类和回归合计约 87%，因此它首先是一个以常见监督学习为主的 MLE 测试床，不是所有科学研究问题的均匀样本。

构建流程会生成 prepare.py 和 metric.py，先验证任务能否准备数据、指标能否执行，再经过任务有效性、数据充分性、原始数据使用、复杂度和数据质量等维度的质量门槛。执行时可用默认子进程，也可用 Docker/Podman 隔离，限制网络、文件系统、时间和硬件资源。

第二层：OpenMLE-ERL 训练“如何改程序”

只会从零写代码不够。机器学习工程的真实过程通常是：先有一个能跑的版本，再看报错修复，接着围绕指标改特征、模型和训练策略，最后把两条有效路线的部分设计合并起来。因此 OpenMLE 把动作空间固定成四个原子操作，并在训练和推理时使用同一套接口。

监督微调：不是只看最终答案，而是保留有效转折

官方公开的 SFT 轨迹数据有 26,259 条，包含 17,245 个完整响应和 9,014 个演化步骤。数据来自执行过的 Draft 和后续 Debug/Improve/Crossover 轨迹：如果一个中间改动最终帮助程序到达有效终点，它更可能被保留；纯粹的外观修改、盲目重试和失败路径会被剔除。公开数据集的构建源头是 26,574 条，另有 315 条因上游许可或权限审查未进入发布集。

这意味着 SFT 学到的不是“看一眼任务就背出标准答案”，而是从执行轨迹中模仿哪些修改动作曾经带来可验证进步。不过，公开数据集也明确提醒：轨迹可能包含错误推理和错误代码，不能把每一条样本当成权威答案。

强化学习：让高分候选得到更强的更新信号

RL 阶段在线生成候选并执行。不同任务的指标量纲不一样，准确率、RMSE、log loss 不能直接混在一起，所以系统先把分数方向统一，再用随历史前沿变化的 adaptive bounds 保留当前策略真正能分辨的差异，最后用 entropic weighting 把学习信号更多集中到同一组里最好的候选。

论文的辅助消融报告显示，熵式加权让组内最佳候选的处理后优势信号约放大到原来的 4 倍；但它使用的是较早期、更简单的 harness，不应直接理解成完整 OpenMLE-Evo 的独立性能证明。RL 还采用异步 rollout，避免一个慢任务让整批更新都等待。

第三层：OpenMLE-Evo 让搜索能够记住经验

OpenMLE-Evo 是测试时的进化搜索。它维护一棵或一组候选程序，反复选择父代、调用四种操作、执行子代、记录分数，然后继续扩展。它的关键贡献不是“多生成几个答案”，而是规定下一次该扩展谁、给模型看哪些历史、怎样避免搜索永远黏在当前最高分节点上。

父代选择：分数、进步、新颖性三因素

仓库中的 experience 模块会为每个节点写入 experience card，记录节点来源、操作类型、分数、相对父代的正向改变量、运行状态、错误签名、token 和沙箱耗时，并维护一个 task-global strategy board。搜索控制器的父代 utility 默认由三部分组成：

三者经过归一化后用 softmax 采样，而不是确定性地只选第一名。当前公开配置的默认权重是 quality 1.0、delta 0.4、novelty 0.25。这个设计有明确取舍：它牺牲一点纯贪心速度，换取保留潜在互补分支的机会。

记忆不是整棵搜索树，而是按操作检索

Improve 通常看到选中的父代、最多三个近期祖先和三个高价值兄弟节点；Crossover 为两个父代分别取较短的祖先与兄弟上下文；Debug 优先寻找具有相同错误签名的节点，再补充近期失败记录。选中的节点才会按需调用记忆摘要器，生成 method_overview 与 parent_comparison_experience，并缓存结果。

这种设计把“可查询的确定性状态”和“由语言模型抽取的自然语言经验”分开：所有节点先记录事实，只有被后续操作选中时才花 token 做总结。这样既降低长程搜索的上下文膨胀，也让记忆和当前操作相关。

OpenMLE-Evo-Max 是什么

Evo-Max 不是一个新的模型，也不是单独的代码目录，而是 OpenMLE-Evo 里的异步多 GPU 配置。它加入 benchmark-independent 的跨任务经验先验，并用 steady-state 异步搜索提高搜索系统的利用率。官方明确提醒：它改变的是模型—harness 系统，不应把 71.21% 全部归因于 Frontis-MA1 参数本身。

把它放进一个具体任务：一次搜索如何发生

可以用一个 Kaggle 风格的鸟类音频分类任务想象整个闭环。任务说明告诉模型数据目录、标签格式和评价指标，但隐藏测试答案留在 evaluator 里。

1. Draft：模型生成音频特征、分类器、交叉验证和提交文件。程序第一次可能跑不通，或者能跑但分数很低。
2. 执行：沙箱返回缺少提交文件、KeyError、超时，或者一个可用的验证 AUC。系统把日志、错误和资源耗时写入节点卡。
3. Debug：如果是路径或提交格式错误，Debug 操作优先检索相同错误签名的历史节点，修复到可评估。
4. Improve：有了可运行基线后，模型可能尝试谱图、分段统计、数据增强或更稳的交叉验证，只有真实验证分数能说明这次改动有没有用。
5. Crossover：两个分支各自找到有效组件，系统把一条分支的安全解析和另一条分支的模型结构组合起来，再次执行。
6. 继续搜索：父代选择器不只看最高分，也看最近进步和方法族新颖性；因此一条暂时不是第一名、但可能互补的路线仍可能被扩展。

实验结果：模型能力和搜索能力分别贡献了什么

主实验是在 MLE-Bench Lite 的 22 个任务上进行，OpenMLE 配置每个任务运行 12 小时，使用单张显存上限 12 GB 的 RTX 4090；官方表格报告多次评测的均值和标准差。这里最关键的是控制变量，而不是只看一个最高数字。

论文还报告了两个迁移对照。在 10 个 NatureBench Lite 任务上，固定 OpenMLE-Evo 的科学任务适配器，只把基座 Qwen3.6 换成 Frontis-MA1，Match-SOTA 从 50% 升到 70%；固定基座模型，只把原始 AIRA-Evo 换成 OpenMLE-Evo，Match-SOTA 从 20% 升到 50%。这支持“模型训练”和“搜索框架”都各有贡献，但 10 个任务意味着每个任务就会改变 10 个百分点，仍属于初步迁移证据。

长程案例显示，后半段的 Improve 和 Crossover 仍能带来明显增益：论文展示的 leaf-classification 和 mlsp-2013-birds 轨迹中，早期 Debug 先把程序修到可执行，后期组合和改进才把验证分数继续推高。这个现象比“首个 Draft 能不能跑”更接近 OpenMLE 想研究的元进化能力。

证据审计：它证明了什么，还没有证明什么

为什么它仍然不是通用 RSI

第一，改进对象主要是机器学习任务程序，不是语言模型自身的权重、训练配方、评测器和研究组织的全链路。第二，搜索的动作空间、评测器、父代选择权重和任务边界大多由人设计，系统仍在一个人类预先定义的适应度地形上寻找更好的代码。第三，奖励主要回答“这个候选在这个任务上跑得多好”，并不充分回答研究假设是否有解释力、方案是否跨任务泛化、代码是否可维护、是否值得继续花算力。

论文的限制章节自己也承认：未来需要把进化搜索和通用 coding agent 合起来，让进化系统本身成为可被改进的对象，并学习任务相关的经验权重，而不是长期固定使用质量、进步、新颖性三项手工因素。

我的判断：OpenMLE 的真正价值是把“自我改进”拆成可测量接口

OpenMLE 最有价值的地方不是宣称已经抵达 RSI，而是把一句很容易空泛化的“AI 改进 AI”拆成四个可以单独验证的接口：任务是否可执行，反馈是否可信，改写动作是否可学习，搜索是否能把经验带到下一次选择。这样一来，失败也能定位：可能是任务包不可靠，可能是 verifier 被利用，可能是 RL 奖励把所有非失败候选混成一类，也可能是搜索只追逐当前最高分。

因此，我会把 OpenMLE 定义为：一个把 MLE 作为可执行试验场的 AI4AI / 元进化研究栈。它比“让 Agent 多试几次”更进一步，因为候选之间共享结构化经验；但它距离强 RSI 仍隔着三道墙：更开放的改进对象、更难被利用的评测器，以及能证明“下一代 improver 比上一代更会改进”的跨代验证。

术语表

证据边界与资料索引

本文以 X 原帖作为入口，以官方论文、官方代码仓库和官方 Hugging Face 发布作为主要证据。论文与仓库对系统结构、训练轨迹数量、评测协议和限制的表述存在个别版本化差异；本文优先采用当前官方仓库 README、论文正文和公开数据集/模型卡能够相互印证的数字。没有独立重跑 22 个任务的完整 12 小时实验，也没有把外部模型的 headline 结果当作可严格等价的对照。

• X 原帖：OpenRSI / OpenMLE 发布预告
• FrontisAI/OpenRSI 官方仓库
• Frontis-MA1 技术报告（arXiv:2607.28568）
• OpenMLE Tasks 数据集与任务构建说明
• OpenMLE SFT Traces 数据集
• Frontis-MA1-35B 模型卡
• Frontis-MA1-30B 模型卡
• NatureBench 论文