基础模型问题
需要长期算力、数据、实验、研究与工程组织，能力涌现又不能完全由理论提前保证。
原文讲解：节目到底讲了什么
这期访谈的悬念在节目开头就被说出来：大模型在中国短暂沸腾后，行业开始分化；前 Google 科学家、出门问问创始人兼 CEO 李志飞一个月前还说要做“中国 OpenAI”，现在却认为中国大概率不存在一个与 OpenAI 相同的组织，并希望劝很多人不要去做基础大模型。主持人没有直接要求他给一个预测，而是追问“这一个月发生了什么”。李志飞的回答，是把自己从技术学习、硅谷访问、和王慧文吃饭、重新盘点公司能力，到创业十年后的性格变化全部串起来。
先固定节目时点
本期讨论的是 2023 年 GPT-4 刚出现后的行业判断。节目中的“五千万美元起步”“六到八个月训练周期”“中国两年后 50 家模型公司”等数字与预测，均是嘉宾当时的口述或估算。它们用于理解当时的决策压力，不应直接当作今天的成本、数量或行业格局。
| 节目阶段 | 主持人问什么，李志飞如何回答 | 这一段的作用 |
|---|---|---|
| 00:00—10:00 | 你为什么走上 NLP？自然语言技术经历了什么迭代？ | 建立嘉宾作为 NLP 研究者和创业者的技术位置。 |
| 10:00—22:40 | ChatGPT 与过去的 AI 有什么不同？自监督和大一统模型是什么？ | 解释能力跃迁，不把模型当作更大的搜索框。 |
| 22:40—35:00 | 为什么 OpenAI 成功而 Google 没有？壁垒到底在哪里？ | 把技术壁垒转成算力、数据、实验和组织的组合。 |
| 35:00—47:00 | 硅谷回来、与王慧文吃饭后，为何改变“中国 OpenAI”想法？ | 区分探索能力天花板的基础模型与应用/行业模型。 |
| 47:00—57:00 | 大模型会给人类、产品入口和行业带来什么？ | 讲认知模型、后 iPhone 时刻、自然语言入口和长期影响。 |
| 57:00—结束 | 创业压力、性格变化、谁不该进场、给同行什么建议？ | 把技术热潮收束为商业、竞争与自我修正。 |
一、为什么从 NLP 讲起：李志飞不是突然转型的外行
李志飞回忆，十几二十年前在约翰·霍普金斯大学读博士时，他原本研究计算机网络，后来进入 CLSP——语言与语音处理中心。那里汇集语音识别、自然语言理解等研究，实验室传统可以追溯到基于数据和统计的现代语音识别方法。网络系统很多时候是确定性的：输入一个条件，系统按规则执行；语音和语言却充满噪声、口音、语速和歧义，机器必须从不确定的信号中学习。
他因此被一个问题吸引：机器如何把声音转换成文字，又如何理解这句话意味着什么？如果再进一步，机器还能看见图像、识别物体之间的关系，甚至理解“杯子为什么在桌上而不是桌下”，那 AI 就不只是数据库或操作系统，而可能构造一个新的虚拟世界。博士期间他做语言模型、解码模型和翻译模型，毕业后加入 Google Translate，继续研究语言模型与机器翻译。
他用机器翻译解释早期语言模型的作用：翻译模型负责把中文和英文对应起来，语言模型则判断输出的英文是否符合语法和自然表达。即便声音信号不清楚，语言模型也能帮助系统猜出更合理的句子。这为后面解释 ChatGPT 奠定了背景：大模型不是凭空出现，而是把语言建模、深度学习、数据和算力推到一个新的尺度。
二、NLP 的关键迭代：从手工结构到让模型自己吸收世界
李志飞把自己经历的 NLP 变化分成几个阶段。2005 年以后，Google 把大规模数据、统计方法和分布式计算用于翻译与语音识别，并把研究系统做成普通人可以使用的产品；在更早的时期，这些技术更多依赖学校和军方项目。到 2012 年左右，单纯继续加数据已经很难提高 Google Translate 的准确率，学术界在小数据集上有效的新算法放进大系统，甚至可能没有提升。
深度学习改变了这一点。它同样需要大数据和大算力，但模型容量更高，能从数据中抽象出不只是表面共现的模式。以前模型看到两个词经常同时出现，可能只学到它们存在统计关系；深度模型则可能把更多层次的语义和结构压缩进参数中。随着数据规模从几千万、几亿 token 走到更大的数量级，模型表达与抽象能力一起提升。
他认为 ChatGPT 最大的不同不是单项任务更强，而是“大一统”。过去语音识别、机器翻译、图像理解、问答和蛋白质预测往往由不同团队、不同数据和不同代码系统分别训练；大模型试图用一个基础系统处理多种任务。李志飞认为，通用智能至少要包含通用性、高度抽象、规划和组合任务的能力；在他看来，GPT-4 已经出现了这些能力的火花。
三、为什么 GPT-3 和 ChatGPT 让一个内行重新相信 AGI
李志飞第一次真正被震动，是 2020 年 GPT-3 发布。此前他和很多研究者不敢说自己要做通用人工智能，因为那听起来像不可实现的宏大口号；GPT-3 让一个模型在同一套系统中完成很多任务，迫使他重新看待“通用”这件事。到 ChatGPT 出现，他的震惊更强：以前的 AI 系统边界相对容易预测，问抽象推理、改变条件或故意绕它时，通常很快就会暴露短板；ChatGPT 却经常表现得像在理解问题、抽象内容并和人争论。
主持人问“自监督”是否可以简单理解为把孩子丢进环境里让它自己学。李志飞说，更准确的解释是：互联网文本本身提供了监督信号。模型读到前面的词，预测下一个词；如果预测结果与文本中的真实下一个词相符，就得到正向信号，不符就得到负向信号。它不需要人逐句标注“这句中文对应哪句英文”，因为序列文本已经提供了可自动计算的答案。
他也强调，模型表现出的认知能力不等于人类意识。模型可以有理解、分析、生产和规划能力，但“生成式 AI”这个名字容易让人以为它只会生成文字或图像。李志飞认为，通用认知能力最终会影响远超语言的领域，包括机器人的任务规划和日常生活中的大量工作。
四、硅谷之行：带着三个问题去问工程师，却发现没人能完整解释
春节后，李志飞立刻去美国，带着三个问题与 OpenAI、DeepMind、Google、Meta、Amazon 等公司的工程师交流。第一，ChatGPT 的技术原理究竟是什么；第二，为什么是 OpenAI 而不是 Google 先做出来；第三，这个能力的壁垒到底多高。
第一个问题的答案让他更谨慎：即便 OpenAI 内部的人，也未必能清晰解释为什么模型突然出现这么强的能力。深度学习的一个困难是不可解释、也不容易精确操控；研究者知道模型的输入、结构和训练过程，却不一定知道怎样直接把某项能力打开或关掉。这不是说模型完全不可研究，而是“知道怎么训练”与“知道为什么涌现、如何稳定控制”之间还有距离。
第二个问题的答案集中在组织。OpenAI 从成立开始就相信应该做通用系统；GPT-3 之后又采取产品驱动的研究方式，把模型放到用户手里，通过反馈不断迭代。DeepMind 擅长在规则清晰、边界明确的游戏中验证强化学习，AlphaGo、AlphaZero 和 AlphaFold 都有清晰的项目路径，但这不等于它拥有与用户产品持续迭代相同的组织机制。李志飞认为，OpenAI 把研究、工程和产品放在一条反馈链上，这是它成功的重要部分。
五、壁垒是什么：不是“有论文就能复刻”，而是一条很长的实验链
李志飞原来以为 Google 很快就能做出同类系统，硅谷交流后才意识到大模型的壁垒带有很长的 lead time。首先是算力：无论研究者多聪明，如果没有足够的卡和时间在大数据上运行，模型就不会凭空出现。其次是模型结构、数据收集和清洗，需要积累。再次是实验本身：每一次调整都要在很大的模型和数据集上运行，等待结果，失败一次也可能花费很长时间。
他把它类比成制造 iPhone，而不是熬夜写一个小模型：要先设计、试产、修正，再量产。节目中他给出至少六到八个月的估算，即使是 Google 这样的强对手，也不能把整个过程压缩成几周。这个判断的含义是，基础模型的竞争不是某个周末的开源代码竞赛，而是算力预算、数据质量、训练实验和团队协作的长周期组合。
Google 的问题在他看来不是人才、数据和算力不足，而是组织结构：研究部门与搜索、YouTube、Cloud 等产品分开，数据、资源和上线权限跨部门协调；部门内部又有很多聪明人，各自相信 GPT、BERT、T5 等不同路线。OpenAI 则以共同信念和产品反馈保持聚焦。微软研究院技术实力很强，但在 AI 时代的存在感相对低；微软却拥有 Office、搜索和云这些迫切需要 AI 赋能的场景，于是“自己过去没有做成、现在又有强需求”的状态，反而让它更愿意支持 OpenAI。
六、那顿与王慧文的饭：五千万美元估算如何改变了他的想法
从美国回来后，李志飞开始和基金讨论中国需要什么能力、做模型要花多少钱。因为听说王慧文也要做 AI，双方吃了一顿饭，既交流对 ChatGPT 的兴奋，也讨论入门门槛。他当时粗略算过五千万美元：约两千万买算力、两千万招人、一千万做数据标注。这个数字不是审计过的预算，而是用来说明为什么他觉得真正做通用模型需要很高的资本门槛。
但一个多月里，他的想法发生变化。第一，做这件事的人远比原先想的多，行业共识在极短时间内形成，供给会迅速增加。第二，难度取决于目标：如果要像 OpenAI 或 Google 一样探索能力天花板，仍然极难；如果把模型和明确的应用场景结合，开源模型、更多算力平台和公开论文会降低难度。于是他不再认为每个团队都需要独立成立一家“从零训练基础模型”的公司。
他补充了出门问问的历史：2020 年 GPT-3 发布后，公司确实做过大模型，持续约八个月后因为模型小、能力不明显、应用不清晰而停下；2022 年又重新启动，起初是为了做类似 Jasper 的文案产品。公司还有配音、数字人视频、直播和文案等 AIGC 应用，因此更现实的路径是让底层模型和具体应用相互反馈，而不是把公司处理掉后再开始一个孤立的新项目。
七、从“做中国 OpenAI”到“让 AGI 可用”：他究竟改变了什么
主持人直接问他还想不想做中国 OpenAI。李志飞说，“中国 OpenAI”本身是一个伪命题：完整复制 OpenAI 极其困难，甚至 OpenAI 自己也不能保证再次复制同样的路径；它需要的资源、投入和不确定性都非常大。更重要的是，即使有人做出了 AGI，下一步仍然是让 AGI accessible——让更多人把它变成可用的产品。
所以他的公司策略从“从头做一个最强模型”转成“基于出门问问已有人员、应用和客户做渐进式探索”。这不是放弃 AGI，而是把探索天花板与商业落地拆开：一部分团队可以观察、学习和参与基础模型进展，另一部分团队用自己的产品、数据和用户反馈建立可控的能力。突变式路线可能获得巨大突破，渐进式路线则更适合一个已经有几百人、已有产品和现金约束的公司。
他因此不赞成把中国大模型参与者都理解成同一条赛道。中国当然需要多个大模型，但“多个可用模型”和“多个探索人类能力天花板的 OpenAI”是两件事。任何组织都不能脱离商业环境，最后都会寻找自己的定位；即使大家一开始喊的是通用模型，也会在应用、成本、数据和客户面前分化。
八、大模型会带来什么：认知模型、后 iPhone 时刻与新入口
李志飞认为，大模型的核心不是“生成”本身，而是认知。人之所以强，是因为可以思考、分析和规划；语言是思想的载体之一。一个拥有强认知能力的模型，会让人对很多过去觉得做不到的事情产生信心，也会把影响扩展到文本、图像、音频、机器人规划和大量白领工作。
他把 ChatGPT 称为“后 iPhone 时刻”，因为移动互联网已经把手机、联网、触摸屏、GPS 和各种数字服务准备好，大家只是等待智能能力真正爆发。自然语言可能成为一种新的交互方式：用户不用打开 App、点很多按钮、填很多表，只要说清楚目的，系统就调用服务。新硬件是否会出现，他没有下结论，只是推测手机形态可能被耳机、摄像头、麦克风等更轻的载体部分替代。
这不是说搜索、手机或既有巨头立刻消失。对话式 AI 的体验可能改变入口，但新硬件、用户习惯、可靠性和商业模式仍是未知数。李志飞认为，未来五到十年很难有哪个行业完全不受影响，但具体的产品赢家不一定是基础模型公司本身。
九、创业的压力：上一代 AI 的痛苦仍会回来，只是供给更大
李志飞说创业十年几乎没有“不难”的一天。最近的焦虑不是不知道机会，而是聪明人太多，担心自己错过这波浪潮。同行有业务的担心被颠覆，没有业务的担心被淘汰；他给自己的解法是长期主义：如果每天学习、迭代认知，错过一个小机会不等于永远没有机会。
上一代 AI 公司共同的问题是投入高、产出低、商业化差；这一代的需求可能更大，但供给也可能大十倍。行业共识形成得太快，对社会是好事，会推动生产力；对玩家却意味着竞争更激烈。他预测一两年后中国可能有 50 家以上公司做大模型，但同时强调，要区分真正探索能力天花板的团队和结合具体场景的模型公司。创业者的机会不一定是干掉搜索巨头，也可能是创造新的产品形态，把搜索、推荐、内容生产和垂直服务组合起来。
他还解释了自己性格为何变了：年轻时表达狂妄、急躁，甚至不愿承认巨头的实力；十年创业后，他更愿意求真，承认别人厉害、承认运气和条件，不再把急躁误认为影响力。中国创业竞争强度在节目中被他粗略说成美国的十倍：创业供给可能约多一倍，而美国客单价和全球市场可能约是中国的五倍。这是帮助理解市场压力的经验比喻，不是经过统一统计口径的结论。
十、最后的劝告：不要高举高打地复制 ChatGPT
主持人问他对当下中国大模型创业还有什么意见。李志飞说希望劝大多数人不要进场，甚至包括大佬。原因不是竞争，而是很多人进入了自己并不熟悉的领域，既没有想清楚模型会落到哪里，也没有想清楚商业模式是什么。通用模型难、竞争激烈、资本消耗大；如果只因为新闻稿好写、估值故事好讲就复制 ChatGPT，最后会非常痛苦。
他的建议其实有三层。第一，不要在投入和招人上“不计一切”，不要一开始就高举高打。第二，尽早想清楚具体应用、客户和商业模式。第三，利用已有优势做渐进式实验，把模型能力接进场景，而不是把基础模型当作孤立的荣誉工程。他认为字节的执行力、研究投入和张一鸣自己读论文的习惯，使其可能是巨头中的强选手；百度、腾讯和阿里也各有必须进入模型的理由——内容平台需要模型，云服务需要模型，企业生态需要模型。
节目最后回到他自己的限制：出门问问今天走到这一步，并不意味着别人可以完全复制；当年的技术、团队、时机、坚持和偶然性共同构成路径。接受这一点，是他从“我一定能做到”走向“我不知道，但可以判断下一步”的最后一步。
结构化提炼：这期访谈把“中国 OpenAI”拆成了三种不同问题
李志飞的立场变化不是从乐观跳到悲观，而是把一个模糊口号拆开：第一，谁能训练探索能力天花板的基础模型；第二，谁能把通用模型做成行业或产品能力；第三，谁能让公司在长期成本和商业压力下活下来。三者需要的组织、资金、数据和反馈都不同，不能用同一个“中国 OpenAI”概念覆盖。
应用模型问题
需要具体场景、用户反馈、私有数据和产品闭环；规模可能更小，但落地更可控。
公司生存问题
需要在融资、现金流、人才、组织和商业模式之间安排时间，不能只把模型能力当成公司价值。
问题与背景：为什么“复制 OpenAI”是一个危险的起点
“中国 OpenAI”在传播上很有效，因为所有人都能理解它意味着通用大模型和巨大机会；但在决策上，它把几个不同层次混在了一起。训练一个前沿基础模型，是科学实验、基础设施和组织信念的长期组合；把模型接入企业应用，是产品、数据和客户反馈问题；用公司长期承担成本，则是资本和现金流问题。如果先定了“我要复制 OpenAI”，再补商业逻辑，团队很容易把最贵、最不可控的部分当作目标本身。
李志飞试图把问题倒过来：先问目标客户是谁、哪些数据只有自己能拿到、什么反馈能让模型越用越好、什么成本能由收入或长期资本承担，再决定模型要做到多大。这是从英雄叙事回到生产函数的转向。
机制解释：基础模型的壁垒是一条长反馈链
| 环节 | 需要什么 | 为什么不能快速复制 | 可观察结果 |
|---|---|---|---|
| 路线 | 对通用能力、规模和训练方式的信念 | 很多组织会在不确定时回到更快的短期项目。 | 是否长期坚持同一方向并持续试验。 |
| 算力 | 大规模 GPU、网络、存储和稳定运行 | 训练预算和排期本身就是时间壁垒。 | 实验能否持续、成本是否可控。 |
| 数据 | 大量、干净、可合法使用的语料及反馈 | 收集、清洗和质量控制需要长期积累。 | 训练信号是否改善能力而非噪声。 |
| 实验 | 结构、数据格式、参数和后训练的组合调试 | 每次实验都昂贵，错误反馈慢。 | 是否能形成连续的迭代记录。 |
| 产品 | 用户、场景、线上反馈和责任边界 | 没有真实使用就没有足够的改进信号。 | 模型是否从 demo 变成可复用服务。 |
| 商业 | 收入、融资、客户和成本的时间匹配 | 模型先烧钱，回报往往后置。 | 能否在下一轮融资前继续迭代。 |
这条链解释了李志飞为什么既说壁垒高，又说应用模型的难度正在下降：开源模型、算力平台和论文把部分“路线—算力—结构”知识扩散了，但数据、产品、客户和商业反馈仍然需要自己承担。壁垒没有消失，只是从“能不能从零训练”转移到“能不能让特定场景持续变好”。
证据审计：哪些是技术解释，哪些是嘉宾的组织假说
| 主张 | 节目中的支持 | 证据等级 | 限制 |
|---|---|---|---|
| 李志飞从 NLP 研究与 Google Translate 走到出门问问 | 嘉宾完整讲述 Hopkins、CLSP、语言模型、翻译模型和 Google 经历。 | 嘉宾自述/节目背景 | 本期不是履历审计，具体年份与职位仍应以公开履历核对。 |
| ChatGPT 的关键变化是大一统与自监督 | 嘉宾用机器翻译、下一个词预测和多任务模型解释。 | 技术概念解释 | 是通俗化叙述，不是对完整训练配方、后训练和产品系统的复现。 |
| OpenAI 的优势来自信念、产品反馈和组织聚焦 | 硅谷交流后的归纳，比较 Google、DeepMind、微软。 | 嘉宾分析 | 没有内部组织数据，存在事后解释和选择性观察。 |
| 前沿模型训练至少需要数月、数千万美元 | 五千万美元拆分和六到八个月周期的估算。 | 节目时点估算 | 模型规模、硬件价格、算法效率和目标不同会显著改变数字。 |
| 中国大多数人不该做通用大模型 | 嘉宾结合一个月观察、市场供给、应用能力和公司经历给出的建议。 | 战略判断 | 不是对每个团队的逐一尽调，也不等于中国不需要多个模型。 |
术语解释：第一次听到时需要知道什么
| 术语 | 通俗解释 | 本期作用 |
|---|---|---|
| NLP | 自然语言处理，让机器处理文字、语音和语言结构。 | 李志飞的研究与创业起点。 |
| 语言模型 | 根据已有上下文预测下一个词或更大语言单位的模型。 | 早期翻译/语音系统中的概率语言约束，也是大模型预训练的基础。 |
| 自监督 | 训练数据自己提供正确答案，例如文本中的下一个词，不必逐条人工标注。 | 解释大模型为什么能利用互联网规模的文本。 |
| 大一统模型 | 一个基础模型在多个任务上共享表示和能力，而非每个任务单独训练一个系统。 | 李志飞认为这是 ChatGPT 与上一代 AI 的核心差异。 |
| AGI | 人工通用智能；节目中主要指能够在多个任务上抽象、规划和组合的系统。 | “中国 OpenAI”口号背后的终极目标。 |
| Lead time | 从决定投入到产出可用结果所需的时间。 | 说明前沿模型不是有钱和论文就能立即复制。 |
边界与风险：本期不能替代什么
不要把节目数字当作当前行业统计
五千万美元、两千万算力、两千万人才、一千万标注、六到八个月、两年五十家等数字都是 2023 年的访谈口径。它们帮助读者理解当时的资金与时间压力，但没有统一的模型规模、硬件价格、数据量和人力定义，不能直接用于今天的预算。
关于 Google 的组织问题、OpenAI 的信仰、微软的动机和中国大模型的未来，李志飞主要依据自己与业内人士的交流和长期经验。它们是有价值的内部视角，但不是公司档案或因果实验。关于出门问问 2020 年模型、AIGC 应用与当前模型规模的说法，也应被标为嘉宾自述，不能只靠节目确认技术细节。
节目末尾音频在公开文件的正常内容之后出现约半分钟与节目无关的影视水印声；本文按章节和正式结束语把它排除，不把它当作嘉宾内容。自动转写还会把李志飞识别为“李治飞”、ChatGPT 识别成多种读音，已结合标题和上下文校正。
独立判断：真正的“壁垒”不是模型大小，而是反馈的所有权
我的判断是，这期最重要的转折可以概括成一句话：基础模型把“能力”变成公共讨论对象，但应用公司能否活下来，取决于谁拥有反馈。前沿模型的反馈来自大规模预训练、实验和用户使用；行业模型的反馈来自私有数据、专业流程、错误纠正和客户愿意持续付费。模型本身可以被调用，反馈链却很难租来。
Insight：把创业问题从“我能不能训练最大模型”改成“我能不能拥有最有效的改进信号”
如果团队能持续获得真实任务、明确评价、私有数据和可回滚的部署环境，即使模型不是最大，也可能形成真正壁垒；如果团队只有一个公开 API、一个漂亮界面和一个模糊的“通用”目标，模型一升级，价值就可能被平台吸收。
这也解释了李志飞对 Jasper 一类产品的谨慎：一项能力如果完全依赖通用模型能够覆盖的公开文本和一般写作需求，就很容易被模型原生吸收。相反，医疗、材料、工业、企业内部流程等场景，只有在数据私有、专业反馈深、错误代价高且责任边界清晰时，才可能支撑真正的垂直模型。但“垂直”本身不是壁垒，独有反馈才是。
可证伪条件
- 如果更大的通用模型长期无法吸收某个行业的私有流程、数据和评价体系，垂直反馈壁垒得到支持；反之，简单文本型垂直应用会继续被平台压缩。
- 如果一个团队只靠更多算力和公开数据就能在数周内稳定复刻前沿模型，节目关于 lead time 的判断就需要修正。
- 如果拥有用户和产品反馈的应用公司仍无法把反馈转成模型或流程改进，反馈所有权就不足以构成护城河。
- 如果中国出现多个组织，在长期算力、研究、工程和产品闭环上都能探索能力天花板，“中国 OpenAI 是伪命题”的强表述就会被削弱，但“不能简单复制”的提醒仍可能成立。
证据边界与资料索引
本文以 #22 完整公开音频、公开章节和节目简介为主，按主持人问题和嘉宾回答的时间顺序重建。李志飞的教育、研究、Google 经历、出门问问、模型投入、硅谷访问、与王慧文交流、公司策略和个人性格变化，先作为嘉宾自述处理；OpenAI、Google、微软、AGI、训练成本和中国模型数量的判断保留为节目时点观点。本文的三层问题拆分、反馈链机制、独立 insight 和可证伪条件是分析，不是嘉宾逐字结论。
节目中部分英文、模型名和人名由连续转写后结合标题、章节和语境校正；公开平台页面可能更新，本文不把嘉宾口述升级为公司内部档案或当前行业事实。