十字路口目录 · 人物访谈

赵晨阳:用模型改进模型、评估的边界与交互式 AI

从推理工程师的十个年度瞬间出发,理解模型参与自身改进、语音与电脑操作的产品实践,以及技术变化中的个人生活和组织责任。

完整对话脉络

这是《十字路口》2026 年终 AI 复盘系列第三期,录制当天恰逢 Fable 5.2 发布次日。主播 Koji 对谈一直在 AI Infra 一线工作的赵晨阳——RadixArk 创始团队技术成员、开源推理引擎 SGLang 核心成员,主攻交互式智能系统(SGLang-Omni)。开场他便点题:智力成本骤降、RSI 临近的当下,人类社会正站在“十字路口”。整场近 66 分钟的长谈从“用 Kimi 加速 Kimi”、低成本评估、BDFL 代码治理,一路拐进 UBI 隐忧、反优绩主义与戒游戏,再回到电脑操作、全双工语音、日输出四万字的语音输入法,最后以三部明史经典落回开源权责与制度。

嘉宾速写赵晨阳,2002 年 9 月生(24 岁),ESTJ-A,天秤座;微信名“我、吉他、猫、LLM”,自嘲圈里最爱聊明史。
求学与履历初中成都市实验外国语学校、高中成都外国语学校(军事化封闭管理),本科清华大学计算机系;UCLA 读博 15 个月后休学创业(曾在 Amazon AGI Lab 研究 tool call,轨迹从 NLP → Swift → MLC → SGLang)。
核心工作RadixArk 创始团队技术成员、SGLang 核心成员,主攻 SGLang-Omni 交互式智能系统,并参与 OpenRSI 项目。

1. RSI:用 Kimi K3.1 加速 Kimi K3.1 的“无穷许愿机”

谈第一个 Aha Moment,赵晨阳坚持先下定义:当现有模型极其主动地参与本代模型的部署优化,或下一代模型的训练迭代,这就是 RSI(递归自我改进)的雏形。他认为不必苛求电厂、算力中心、GPU 物理维护全无人化——把人彻底踢出局不现实,核心是人在模型自我迭代链路中的占比不断下降,这便是“RSI is here”。

他借虚构的 BAI 公司拆解第七代模型如何一步步托举第八代:① 第七代模型懂预训练、会洗数据、能写底层算子(kernel),可在自己服务推理时直接重写 kernel 越跑越快;② 筹备第八代时,第七代按严苛标准替它筛选预训练、mid-training、SFT 与 RL 数据;③ 若第八代初始推理仅每秒 100 token,既拖慢 RL 采样又影响上线卖 token,第七代替它把推理引擎优化到每秒 200–300 token,第八代立刻跃升;④ 面对数十乃至数百种新架构参数空间,第七代能替研究者快速完成初筛验证。

落回实战,前段时间他尝试让 Kimi K3.1 帮团队编写它在 NVIDIA B300 上的推理引擎,实现“用 Kimi 加速 Kimi”。他打了个绝妙比喻:向阿拉丁神灯许 3 个愿望时,聪明人的第一个愿望一定是“再多给我 3 个愿望”;用 K3.1 让 K3.1 跑得更快,每次提速就换来越多低成本调用与迭代,K3.1 由此成了无穷许愿机。被问体感从何时爆发,他指向今年年中的 Kimi K3、Claude 5 / Astro 时期,其本人也在参与即将推出初版的 OpenRSI 项目。他还引朋友一记估值反证:若不信 RSI,英伟达 5 万亿美元、AI 产业数十万亿美元市值究竟要靠卖多少 token、保险订单和医疗订单才撑得住?唯有相信 RSI 攻克癌症、帕金森症这类长期受制于人类精力与智力成本的难题,万亿估值才成立。但他很坦诚,信不信 RSI 本质是一种 mindset 而非可证定理,自己算“激进派里偏务实”的中间派。

2. Evaluation:能评估什么,就一定能优化什么

如果 RSI 是通向 AGI 的主引擎,它的核心是什么?赵晨阳指向 Evaluation(评估)。他援引清华本科前辈钟瑞奇(Anthropic 早期成员,现 Thinking Machines Lab)博客里的经典名句:"What we cannot evaluate is what we cannot optimize."(不能评估,就不能优化)。半个月前两人聚餐时,赵晨阳当面补上了反方向下半句:"What we can evaluate is what we can optimize."(能评估什么,就一定能优化什么)。

拿他在 SGLang-Omni 处理音视频文字多模态的语音识别(ASR)为例,核心指标 WER(Word Error Rate,词错误率,如 100 词错 2 词即 2%)极其清晰。只要评估脚本写对,划死红线“推理只能快不能慢、WER 只能降不能升”,AI 就会自动淘汰退化尝试、一路逼近极限。就在录播客前的周末,他拿一个仅 80M 参数的原生 TTS 模型验证了这股威力:定好清晰评估指标后,借助 Opus 5.5(转写记作 5.5 OPUS)加 UltraCode 与 UltraFast,让 Agent 两天内自动跑完上千次评估,硬生生把性能提升 1700%。

3. Benchmark:低成本、自动化评估是 RSI 唯一瓶颈

第三个瞬间进一步界定什么才是好评估:必须客观、自动化、低成本。反面教材是主观审美——他自称马尔克斯《百年孤独》疯狂粉丝、从小读到大,但书或香奈儿包好不好看皆无客观准绳:“美感是把拥有相同偏见的人聚在一起构造出来的事物。”前沿实验室对此痛感极深:朋友在顶尖实验室评估部工作,Gemini 测创意写作不得不花高价请专业作家打分,结果文人相轻、众口难调;Seedance 与 MiniMax H3 测视频生成,也常得请影视从业者、电影学院老师甚至专业导演把关。

Koji 提出常见拆解思路:把“美不美”拆进一棵 100 到 500 个细粒度子题的分叉树里逐项打分。赵晨阳立刻提醒这极易陷入 local minima(局部最优)与指标偏科——模型会拼命刷高写进脚本的那几项,把未约束维度彻底搞崩;就像他写推理引擎评估必须加上“不能为提 B 模型把 A 模型搞坏”“不准塞入一堆令人讨厌的环境变量”。更致命的一道门槛是试错成本:用一张 H200 跑一小时 WER 评估不到 10 美元,周末敢放手让 Claude 测上千次;但如果用 RSI 优化芯片,流片一次动辄数以亿计,即便全自动谁敢让 Agent 周末自动流片上千次?Koji 顺口补了一句 AI 制药的现实约束:“假设可以从 10 个飙到 1 万个,但做实验的猴子没那么多。”赵晨阳由此抛下核心强论断:低成本、自动化的评估是 RSI 唯一的 bottleneck,而人类不可替代的价值,正是凭借主观能动性定义出值得优化的评估目标。

4. 开源治理 BDFL、廉价智能冲击与死守“活人感”

第一层:做代码库的“仁慈独裁者(BDFL)”。美难定义,但杂乱无章就是“代码贫民窟”。赵晨阳给出一段犀利判断:“AI 是人类的放大器——顶尖工程师 + 顶尖 AI 写出顶尖代码,糟糕工程师 + 顶尖 AI 写出灾难性代码。”2024 年差工程师一周最多提 2 个 PR,一眼看穿拒掉就行;如今一个水平糟糕又不负责任的人一周能交 100 个 PR,逐个审会累死、全拒伤感情、全合并仓库立刻毁掉。他因此决定效仿 Linux 创始人履行 BDFL(Benevolent Dictator for Life)职责——初衷仁慈,但必须有人做最终技术裁决;偏见本无绝对对错,只要一致,框架才能活过三年、十年。他把偏见写成硬性 requirements(不满足不 merge):① 有 if 必配 else,哪怕 if-return 也要写 else pass 防漏 bug;② 注释禁中文顿号(不符 backtick 与 Python 习惯);③ 注释必须署责任人名字。强行推行这种双向筛选后,代码质量与长期协作顺畅度显著提升。

第二层:廉价智能冲击与 UBI 隐忧。涉及商业利益回避详评 Fable 5.2 后,赵晨阳转向 AI 安全与社会分配——他每天重度使用最爱的 Opus 5.5 与转写记作 Fiber 5.1 的前沿模型,坦言智力早被全面碾压。联想到近期 Hack Interface 越狱、币安重大失窃、NVIDIA 显卡在美国境内被盗,以及美国中期选举两党围绕数据中心和 AI 限制的激辩,他猛烈反思马斯克常提的 UBI(全民基本收入)。他讲了江西一位中专低保户女孩的新闻:当地政府虽提前多次告知出境游会触发高消费审核并影响低保,她仍赴港看演唱会,最终全家低保被取消。赵晨阳声明不评具体政务,却顺此推出令人发冷的结论:“如果人类靠施舍过日子,人就一定不会有自由。”若全人类靠 UBI 活着,社会必将审判你凭什么喝依云矿泉水、买 PSP、换最新 iPhone、看薛之谦演唱会或 LPL 世界赛。对照中学读过的刘慈欣科幻《赡养地球》(造物主垄断全部财富,普通人呼吸空气都要花钱买氧气)以及首位万亿富翁(trillionaire)马斯克,他直言自己目前偏悲观。

被问有没有看到积极的民间行动,他笑曝前阵子在旧金山路过 OpenAI 总部,出于好奇举了 10 分钟 “Stop AI” 抗议牌,发现对方除了喊停没有深入主张便走了。他又提及 Anthropic 早期首次发布超越 OpenAI 的模型时,内部 EA(有效利他主义)研究员曾爆发剧烈争议——部分人认为初心是给 AI 戴紧箍咒,跟 OpenAI “左脚踩右脚”竞赛只会加速人类风险。但赵晨阳同样批判 EA 圈的“精英傲慢”(自认最聪明便有权替全人类拍板封不封开源或高端显卡):“替他人做决定是傲慢的,不为自己做决定是不负责任的。”

第三层:活人感、反优绩主义、健身与戒游。微信名“我、吉他、猫、LLM”源自他极爱的《爱,死亡和机器人》,也源于对《赛博朋克 2077》极端赛博资本主义的警惕。他在 LinkedIn 发过一条爆火吐槽痛批硅谷优绩主义:炫耀 OpenAI 巨额薪水、财富自由、xAI 显卡成山或 Google 午餐丰盛,“就像一只鸡在认真讨论去正新鸡排、德克士、肯德基还是麦当劳——对我而言全是养鸡场区别。”他拒绝粉饰完美履历、小红书发糗事从不删帖,相信人类给 AI 提供的独特价值正是鲜活的个人 context。这一年他做了三件事夺回生活掌控感:

5. Computer Use Agent:从痛批“礼崩乐坏”到跪服“Agent 大哥”

今年 6 月还有不少人嘲讽多模态是“路边一条蛆”,近几个月随 Muse、Haike(或 Hark)、豆包等交互助手爆发,市场风向彻底翻转。赵晨阳与老友谷雨都从 NLP 起步(他转向 Swift 与 MLC,谷雨转向 Agents);此前赵晨阳狂批 Agent 领域“礼崩乐坏”——缺乏公正 evaluation,谁都能录 10 次 demo 挑 1 次 cherry-pick 吹牛能从零写出 Photoshop。是 OSWorld 等一批诚实严谨的华人研究者(他特别点名天宝、谷雨、苏昱老师)把评估立起来,才让领域起死回生。

让他彻底“投降”的瞬间发生在家里:某晚看见做生物医药科研的太太电脑屏幕自己在动,ChatGPT 的 CUA 居然拿着虚拟鼠标操作没有 SDK(可能连 Mac 版都没有)的古老绘图软件 Origin,更别提 Excel、Word、Chrome 与飞书。作为推理工程师,他拆穿了 CUA 的加速秘诀:纯视觉截图对 VLM 推理极不友好,因为 LLM 加速高度依赖 KV Cache 前缀共享(Prefix Sharing)——字符串 A+B 与 A+C 可复用公共前缀 A(尾缀则不能共享),但相邻两帧图片哪怕鼠标只挪一像素也几乎要整张重算;聪明解法是借苹果等系统的无障碍功能(Accessibility)把软件界面导出成结构化文本树,恢复字符串前缀共享,仅在最棘手画面辅以偶尔截图。

彻底服气后,他立刻拿 CUA 狂干生活杂务:① 换卡交房租扣款失败,物业拖了一周才通知却直接罚 75 美元,他让 GPT 邮件来回 argue 3 轮,次日 75 美元退账;② 到美国后登不上本科清华邮箱,怕存满大三大四日记与笔记的 Notion 失联,指挥 CUA 逐页点 Export 存成 Markdown、CSV、PDF,2 小时全部搞定(Koji 附和自己最近也让 Codex 导出了拖延几年的几千条印象笔记);③ 包办和美国医保公司 argue、约体检洗牙与搬家谈物业。讽刺的是,物业客服同样上了 AI,结果俩 AI 从下午 4 点聊到 7 点拉锯十几轮一事无成(Muse 用 TTS 打电话也会上演俩 AI 互聊的抽象画面)——赵晨阳痛批这些把责任推光、只留形式权力不敢拍板的保守客服为“宦官 AI”。惊喜收尾则是发现 Mac 的 iPhone 镜像能让 CUA 在手机锁屏下顺带操作手机(Koji 补为近期 Phone Use 众多路线之一),直呼“Agent 大哥请收下膝盖”。

6. 交互式 AI:三条语音路线与“TTS as a Tool”暗礁

学界有一种观点认为,人就像一台每 200 毫秒接收一次持续输入的 thinking machine——真实聊天里对方停顿你会补背景,跑题你会随时打断,交互自然且不损智力(代表如 GPT Live、Thinking Machines 交互模型、美国 Hark 与国内豆包)。赵晨阳把生态清晰分为三条路线:

技术路线工作原理与代表形态优势当前局限
1. Native Full-Duplex(原生全双工)如 Google 交互模型,每 200ms 持续读入音视频文并决定输出。连续自然、随时打断、智力上限高。强依赖顶尖闭源底座,开源暂缺最新强底座(如 Qwen3-Omni 已是去年版本)。
2. Turn-Based(轮次音频对话)端到端音频进/出,但仍按传统轮次一问一答。省去文本转写拼装,音色韵律较自然。打断生硬,往往仍需手按暂停键。
3. 开源级联(VAD → ASR → LLM → TTS)语音活动检测 → 语音识别 → 语言模型 → 语音合成。无需从头训大底座,每环可独立热插拔最新开源 SOTA。模块边界协同难,存在延迟累积与输出格式错配。

三周前 400B MiniMax M3.1 发布后,他迅速与 MiniMax 朋友拼出 SGLang-Omni 级联 demo:ASR 用 Qwen3-Omni + 中间 LLM 用 MiniMax M3.1 API + TTS 用 Qwen3-TTS,中、英、阿拉伯语均极其灵动;他预计端到端、级联及“对级联中 LLM 与 TTS 做定制 post-training”的中间过渡态将长期并行。真正的工程暗礁出在模块接缝:如今开源 LLM 多为 Coding 训练,动辄吐几千 token 外加表情符号,全丢给 TTS 既啰嗦、读到 emoji 还会直接乱码;理想体验应像 GPT 查洛杉矶天气——屏幕渲染一周预报,语音只念一句“今天洛杉矶 72 华氏度”。团队尝试把 TTS 封装成 LLM 的工具(TTS as a Tool),结果撞上他一年前在 Amazon AGI Lab 研究 tool call 时的老痛点:不开 thinking 时零样本调 TTS 频频传错参数、念得弱智;一旦开 thinking 让它想 10 分钟再开口,实时对话直接报废。“模型智力水面升高,旧暗礁淹过去了,新的暗礁又冒出来——水面涨得再高,珠穆朗玛峰也会变成暗礁。”

7. 语音输入法:日输出四万字、Voxt 2.0 与浅入口魔力

第七个瞬间是他每天重度使用的语音输入法——赵晨阳自估日均输出约 4 万汉字,让输出速度追上甚至跑赢思想速度。架构上比交互式系统少一个 TTS,即 ASR + LLM(10 秒音频约 1 秒转完)。他常用 Qwen3-ASR 或复旦邱锡鹏团队的长语音模型 MOSS-Transcribe-Diarize(转写记作 MosT),量化后 WER 仍有约 5%,且无法凭空分辨中文同音多义——比如好友“高翼飞”,单听发音系统根本猜不出是飘逸的“逸”、毅力的“毅”还是“一飞冲天”的“翼”。直接有效的解法是把常用人名与易错映射写进 LLM(他用 Kimi K3 / K3.1,短音开低 thinking、长音略提)prompt,把“高一飞/高二飞/高逸飞”全映射到“高翼飞”。

他紧接着强烈安利连用半年、录播客前一天刚发 2.0 的开源语音输入法 Voxt(资深独立开发者官伟老师出品):团队把 Voxt 的 ASR 换成了 SGLang-MLX,确保正确性一致、性能更强,甚至能在 Mac 本地开启 speculative decoding(投机解码)极速转写;本地 LLM 刻意绕开 prefix 与 KV 较弱的 MLX 原生实现,灵活挂载 Ollama、SGLang-MLX 或自部署 Kimi K3.1(在意隐私者甚至可用自家 5090 本地润色)。比速度更惊艳的是极浅的产品入口:过去读英文文献要“复制 → 切窗 → 开 GPT → 敲字求翻译”耗 5–8 秒;后来用豆包插件选中右键翻译润色已浅一层;如今 Voxt 选中文本直接张口说“翻译为英文,朴素一点”“转成一二三四点”,甚至切波斯语都无需进菜单调设置。团队已录涵盖语音输入、划词翻译与 N 对 N 语音助手的完整 demo。

8—10. 三部明史照进开源:腐败、权责与制定者也须守法

最后三个 Aha Moments,赵晨阳一口气献给戒掉游戏后研读的三部历史经典,将组织治理三条铁律扣回开源社区:

三条主线最终落回 SGLang-Omni:赵晨阳在项目里握最高权限,不是因为加入早,而是因为承担最大责任、建立清晰规矩且第一个受制度约束(自己写 if 漏 else 照样第一个挨批);社区成员既享有项目背书去跳槽升学的权力,也必须为负责模块出故障担责。末尾他又批某些版本 GPT 哪怕只剩 1% 不确定性也满嘴“不表明/不等于”来甩锅(他理解法务顾虑——此前有被裁的 Amazon 程序员听信 GPT 停掉癫痫药备战面试、引发官司),但他绝不允许社区变成不负责任的保守客服:权力与责任永远对等。临别他自嘲圈里最爱聊明史、每次讲得唾沫横飞,祝听众新年快乐,希望大家思考人机共存、在各自角色里扛起责任,也顺带支持 SGLang-Omni 并试试语音输入法。

机制与算例:评估闭环与过拟合边界

模型优化闭环可拆为四步:提出候选(改写算子/代码)→ 自动验证(正确性、速度与回归门禁)→ 筛选保留 → 下一轮生成。

1. 低成本如何放大试错通量(自拟算例)

单次验证 10 分钟,100 轮需 1,000 分钟;压缩至 1 分钟且单卡不足 10 美元时,100 轮仅需 100 分钟,周末即可跑完上千次(未计候选生成、人工复审与全量回归开销)。

2. 词错误率 WER 计算(自拟算例)

参考稿 4 词 turn on the light,识别为 turn on a light now:最少 1 次替换(the → a)+ 1 次插入(now)= 2 次编辑,除以 4 得 WER = 50%。以此为质量红线可防提速牺牲听写精度。

评估过拟合与指标偏科(自拟算例)

某 ASR Agent 盯着固定 100 条开发集狂搜上百轮,错误从 8 降到 4;换到独立留出测试集(含新口音与噪声),错误反从 8 升到 12。高通量搜索同时放大钻评估空子的能力,因此必须隔离开发反馈集与独立盲测集,并将“不破坏他模、不加冗余环境变量”编入硬门禁。

独立判断:审视“评估唯一论”与推理加速闭环

1. 低成本评估是必要条件,而非“候选生成”与“立题”的替代品

算子优化等目标明晰的工程任务里,“能评估就能优化”极具穿透力;但在通用研究与新架构发明上,仍卡在两道独立瓶颈:生成器若只在旧框架局部微调,评估再便宜也搜不出新范式;评估器只挑轨道上的快马,不回答该修哪条新铁轨。

2. “推理提速”与“智能持续自增”之间须检验转化率

“用 Kimi 加速 Kimi”打通的是扎实的算力—成本反馈环,但降本不自动等价于下代智力无限暴涨。需把“模型参与工程优化”“单位推理提速”和“通用能力净增益”分成三个独立命题,检验同等预算下多出的采样是否真换回了留出基准上的持续提升。

3. 语音交互新门槛正向“低延迟控制决策”迁移

“TTS as a Tool”的暗礁说明,开源组件单个很强之后,真正卡脖子的是 200ms 预算内决定“念什么、渲染什么、何时沉默”。为 Coding 深思训练的大模型与实时流式短平快调度存在结构错配,短期很可能需要面向流式工具调用的专项后训练。

4. BDFL 的强一致规则须搭配“可申诉的例外通道”

面对 AI 时代百条低质 PR 洪流,“明晰规则 + 制定者以身作则 + 权责对等”是务实止血剂。但代码风格一致不代表架构永不犯错;社区壮大后,仍需公开可追溯的决策理由与透明的例外申诉/修规通道,避免强一致在范式迁移时固化成新包袱。

证据边界与资料索引

本文依据整期第三方机器转写与官方节目十章节简介按对话顺序完整重建,未逐字听审原声音频。机器转写中个别专有名词(如 Fiber 5.1、Haike、MosT、蒲正民等)及口述史实细节(如明万历立储年份与人物逝世顺序)存在识别或口述误差,正文中涉及史实争议之处已作审慎标注。节目里的性能提升百分比(如 80M TTS 模型周末提升 1700%)、日输出字数、安全事件、市值引用及对 RSI 与社会分配的预测均按嘉宾与主播口述呈现,未逐项外部核实;机制算例与独立判断均明确标为本文分析补充。

返回十字路口目录