数字侧
模型、数据、推理、工具、Agent 和产品交互决定“能不能想、能不能做”。
2024 年第一季度刚结束,张小珺再次邀请拾象科技 CEO 广密复盘全球大模型赛局。广密把话题从 GPT-4、Sora、开源模型和英伟达 GTC 推到一个更物理的命题:AGI 不是只靠论文和参数增长,而是靠电力、芯片、数据中心、互联、能源和资本共同构成的大基建。模型是南坡,产品是北坡;真正的山顶不是一次发布会,而是让“电 + 芯片”持续产出可定价、可交付的智能。
音频最开头约 30 秒有节目预告,正式片头从约 00:38 开始。首次自动转写在开场音乐处连续输出无意义重复文本,本文不把这段当作原文;后续无上下文复核恢复了片头和完整内容。公开章节以节目页时间为准,关于 H100、训练能耗、市场规模和公司生死线的数字均按广密的节目时期估算,不作工程核算或投资建议。
| 节目时间 | 主持人追问 | 广密的论证推进 |
|---|---|---|
| 01:45–10:34 | 2024 Q1 的模型赛局发生了什么?开源、多模态和 Inflection 说明什么? | GPT-5 变慢、Sora 变早、开源水位上升、物理硬件成为时间表瓶颈,模型公司分层重排。 |
| 10:34–19:46 | AGI 怎么定义?近期最先改变哪些产品? | 提出“渐进式解锁”,把 Coding、信息检索和多模态看作登山路线近处。 |
| 23:41–39:37 | 为什么叫大基建?谁来付钱?训练 GPT-3.5/4 需要多少算力和能源? | 用电力、GPU、万卡集群、云、芯片和政府投入说明物理瓶颈,并列出产业受益层。 |
| 40:38–57:40 | Scaling Law 还能走多远?模型公司如何过生死线? | 把数据、算力、能效、Agent 和模型小型化放在同一个效率问题里。 |
| 57:40–结束 | OpenAI、Apple、英伟达、阿里、机器人和 Sam/Musk 会如何结盟? | 从模型—产品两座山坡,推到芯片税、智能税、集团军作战和硅基智能的地缘意义。 |
张小珺先列出从春节到 2024 年第一季度结束的事件:OpenAI 发布 Sora,Google 和马斯克加入开源竞争,Anthropic 发布 Claude 3,英伟达举行 GTC。广密的第一感受是 GPT-4.5 和 GPT-5 比很多人预期更慢,AGI 的战线可能被拉长;Sora 却比预期更早,意味着多模态理解和生成会在当年快速进步,但“多模态是否直接带来智能、是否通向 AGI”仍是非共识。
开源模型的影响也被他重新估计。过去他更坚定地认为闭源模型会强很多;现在他承认,很多简单任务开源模型已经够用,开源水位一旦被 Llama、xAI 等持续抬高,就会侵蚀闭源 API 的商业价值。闭源模型仍可能在复杂推理、可靠性和成本优化上领先,但“大家必须调用最强闭源模型”的世界已经被打破。Inflection 则是相反案例:模型训练收敛和计算竞争如此残酷,没有绑定足够深的巨头,仅靠 VC 很难承受基础模型的长期资金需求。
他把第一梯队归为 OpenAI、Anthropic、Google,再加上有机会冲击上位的 xAI;Meta/Llama、Mistral 等处于另一梯队。这里的“梯队”不是公开排名,而是广密根据人才密度、GPU 资源、应用入口和资本续航做出的节目时期判断。
广密先承认 AGI 没有统一定义。他给出一个激进版本:模型在 90% 的行业里超过 90% 的专家,完成 90% 有经济价值的工作;但他又指出,定义不能只从“替代人”出发,很多五秒内能完成的任务可能会先被模型吸收。对他来说,AGI 更像一条登山路线:模型能力每增加一段,就会解锁一类场景、一个产品和一部分经济价值,而不是憋几年大招后突然把所有工作一次性替代。
他把路线分成南坡和北坡。南坡是模型:Scaling Law、更多数据、更多 GPU、更多能源,关键是单位能源和计算能产生多少智能;模型能力里最重要的是复杂推理,只有推理可靠,才有可能完成经济价值高的长任务。北坡是产品:谁能做出上亿活跃用户、把信息检索从链接变成答案、让多模态搜索和主动交互进入日常。两家公司不一定要同时爬两座山,但如果一家公司同时做研究和产品,组织、人才和资源的要求会更高。
他最期待 Coding 和信息检索。传统软件像自动贩卖机,只能提供预先设计好的有限 SKU;自然语言和模型调用工具后,软件可能更像调酒师,用户描述口味,模型实时生成应用、运行代码、调试和修改。这样一来,产品经理和开发者的边界会变化,SaaS 中只有深度工作流、数据和组织能力的公司更不容易被功能型工具替代。搜索同样有技术窗口:过去搜网页和链接,未来可能直接得到答案、过程和主动推荐;如果 ChatGPT 要从数千万活跃用户走向更大规模,搜索是它与 Google 竞争的关键入口。
主持人追问,为什么要把当下比作 AGI 大基建。广密把历史经验串在一起:中国的公路、城市化、5G、电商和物流先投入巨量基础设施,后来才有短视频、直播、外卖和电商应用的大爆发;美国的曼哈顿计划、登月和 1990 年代信息高速公路也都是先建设底层能力,再迎来应用和产业扩张。没有基础设施,应用爆发就无从谈起。
AI 的基础设施包括 GPU、数据中心、供电、散热、网络互联和芯片产能。数字模型可以按月迭代,但土地、变电站、冷却系统、晶圆、HBM 和万卡集群不能按软件节奏出现。广密举例说,几万张 H100 不是把卡插上就能训练:三层网络互联、稳定性、利用率和散热都需要工程系统,三个月内把一万张卡有效用起来也未必容易。于是 AGI 的时间表不只由算法研究决定,也由物理世界的建设速度决定。
他把产业受益层分成几波:第一波是英伟达、台积电等芯片公司;第二波可能是广告平台,模型带来的交互和效率会改变广告分发;第三波是云服务,因为芯片和模型都要在云上运行,企业上云仍可能持续;终端层则包括 Apple 和 Tesla。OpenAI 自身虽然是模型公司,也必须不断融资、租卡或建设自己的算力基础设施,不能只把钱花在训练实验上。
广密用一组粗略估算帮助听众理解规模:假设 GPT-3.5 水平模型使用约 500 张 H100 训练 15 天,耗电约几十万度;GPT-4 水平使用约 8000 张卡训练 100 天,耗电进入数千万度量级;更大的模型需要数万张卡、数月训练和更高的能源投入。他进一步按每张卡数万美元、加上网络与数据中心设备,估算训练一个 GPT-4 级模型的基础设施门槛可能达到数亿美元,万卡以上集群不只“有钱就能买”,还要有土地、供电、互联和运维能力。
这组估算的作用不是给出精确账单,而是让听众看到:基础模型竞争已经不是一般创业公司的早期研发费用。若一个模型公司每年需要数十亿美元级别的硬件和训练投入,它要么依赖巨头云和资本,要么获得政府或主权 AI 资金支持,要么建立自己的商业现金流。广密因此提出,未来政府直接大比例投资模型公司的可能性会增加,欧洲若希望 Mistral 留在独立市场,也需要回答资源从哪里来。
他预计大基建不会在某个 AGI 发布日结束。单颗芯片的摩尔定律可能放慢,但数据中心互联、跨中心计算、能效和专用芯片会继续推进;如果一定给周期,可能是十到二十年的长期建设。这也意味着所谓“泡沫”不能只从短期估值看:基础设施可能有过度投资,但其中一部分会成为未来应用的长期资产。
谈到 Scaling Law,广密的结论是“没有证据证明它减速”,更准确的说法是有效算力和高质量数据还没有继续推到足够大。他用一个常见的训练计算近似说明关系:训练计算量大致随参数量、训练 token 数和一个常数因子相乘。参数和数据各增加十倍,计算量就可能增加约百倍;但当 GPU 集群、数据中心和高质量数据没有跟上时,模型能力看起来就会进入平台期。
数据是另一个硬约束。文本数据可以合成、改写和扩充,但高质量、多样、能真正改善能力的数据并不容易无限复制;不同模态混合训练还可能损伤原有能力,需要大量研究和配方。广密的判断是,未来一两年 Scaling 仍有空间,但更长期必须在数据质量、能效、架构和 Agent 规划能力上突破。
他同时强调模型小型化:大模型用于探索能力边界,小模型用更少资源覆盖大多数商业 query。一个模型公司必须同时掌握“训练大模型发现新能力”和“蒸馏/优化小模型降低服务成本”两条路径。否则,即使能力领先,推理成本也会把产品价值吃掉。
广密认为 Agent 的真正门槛是能否完成经济价值高的复杂任务,而不是把几个工具调用串起来。Next Token 架构能否完成长期规划、几十步推理和失败恢复,决定了继续堆 Scaling 的意义。模型公司可能最顺手地做 Agent,因为它能发现某个任务失败后直接改数据、调模型;产品公司如果没有模型人才和训练基础,则很难向下改能力。
他用 SpaceX 做类比:火箭发射是基础能力,真正高价值的 Killer App 可能是 Starlink;但如果没有火箭,Starlink 无法部署。模型公司可以把基础模型当作“火箭”,再孵化若干应用;也可能像电厂与灯泡一样,电厂不一定生产所有灯泡。广密在节目里更倾向于模型公司作为基础研究实验室,能做出一部分头部应用,但这会极度考验组织能力。
这条判断延伸出“两道税”:英伟达通过芯片和算力收税,模型公司通过智能能力收税。它们是否会成为长期价值沉淀最厚的环节,不能仅靠现在的估值回答;要看模型能否持续领先、成本能否下降、产品是否有用户和现金流,以及模型被替换时价值是否还留在公司。
广密认为 OpenAI 在企业侧可能不如微软:企业流程需要信任,微软已有客户关系、云和合规能力。OpenAI 更可能把 ChatGPT 做成消费级流量入口,先把活跃用户和付费用户扩大,再用订阅现金流支持长期研究;垂直行业不一定全部自己做,但会把关键 use case、数据和体验加进模型。
芯片是 OpenAI 的短板。Google 可以同时拥有模型、TPU、云和应用,优化整条栈;OpenAI 依赖英伟达和微软,无法完全控制芯片价格、供应和互联效率。广密因此推测 OpenAI 需要做自己的 ASIC 或芯片团队,微软也可能与其一起形成芯片联盟。英伟达则没有动力只扶持一个模型赢家,更可能同时支持多家头部模型公司,以扩大卖卡空间。
Apple 的长期优势是手机、端侧入口和用户习惯,但大模型放进手机受内存、电池和能耗限制,端侧不是把云端模型简单缩小。阿里同时投资多家中国模型公司,在广密看来也有云的逻辑:模型越多,云上训练和推理需求越大,投资的钱可能通过算力消耗回到云业务。这个判断把资本动作解释成算力需求的绑定,而不是单纯押中一个模型冠军。
广密对机器人比自动驾驶更谨慎。自动驾驶已经有大量车辆在真实道路上收集数据,机器人却可能只有几十到几百台设备,家庭和工业环境的真实交互数据远远不够。语言模型可以从互联网文本学习物理世界的描述,但“拿起鸡蛋而不捏碎”需要视觉、力量、抓取、反馈和动作数据,不是文本理解变强就自然解决。
他期待多模态帮助机器人和自动驾驶理解视觉、建立环境模型、筛选长尾案例和降低运营成本。Waymo 早期可能需要一个人监控几辆车,如果多模态能力提高,远程协助的车数有望扩大;但这种说法仍是方向性判断,不能替代实际运营数据。机器人还要解决通用场景、传感器、电子皮肤、关节、电机、人形与非人形设计、供应链和成本。广密认为未来可能出现通用机器人,也认为中国制造和供应链有机会把成本降下来,但不判断哪家团队最终胜出。
他最后回答为什么碳基智能如此热衷硅基智能:人的吞吐、记忆、寿命、复制能力和处理大规模 DNA/RNA 数据的能力都有限;硅基系统可以用更多能源和计算去探索人类没有想过的问题。碳基与硅基不是简单替代,而是互补。这个问题最终也和地缘博弈相连,因为谁拥有更高效的芯片、能源和智能产出,谁就拥有更强的产业与科学能力。
广密尊重 Sam Altman 早期坚持 AGI、持续募资和推动组织成长的勇气,也认为他擅长掌握产品发布和资本节奏;他同时对 OpenAI 的资金来源、商业化转型和非营利结构与商业组织之间的张力保持好奇。对于黄仁勋,广密把他看作当下更接近人类基础设施的关键人物:没有 Sam,AGI 可能仍能推进;没有足够的 GPU、互联和能源,模型公司就无法训练。
马斯克与 OpenAI 的冲突在节目中被放回资源和身份竞争,而不是只看官司本身。xAI 需要继续获得算力、人才和资本,Tesla 的自动驾驶和机器人也需要把宏大叙事落到车辆、数据和制造。节目最后形成一个当时的双重隐喻:英伟达收“算力税”,模型公司收“智能税”;两者都可能成为时代的基石,但都必须经过规模、效率、产品和长期现金流验证。
以上把节目从 Q1 模型赛局、AGI 登山路线和算力能源账,连续讲到 OpenAI、芯片联盟、机器人和硅基智能。下面进入独立抽象与证据审计。
模型、数据、推理、工具、Agent 和产品交互决定“能不能想、能不能做”。
芯片、能源、数据中心、互联、散热、传感器和本体决定“能不能规模化运行”。
资本、云、用户、现金流和定价决定“能不能把研究时间买回来”。
我的核心判断是:广密所说的“大基建”不是把 AGI 的到来简单推迟,而是改变了进度的解释方式。模型能力即使在论文层面有突破,也要等物理基础设施把它变成可重复的训练和推理;物理设施即使建好,也需要数据、算法和产品把算力转成价值。进度取决于这三层中最慢、最难替代的一层。
节目中“电 + 芯片 = 产出智能”是一种高层生产函数。它提醒我们,训练规模需要算力和能源,但它没有解决智能如何定价,也没有保证每块 GPU 都能被高效利用。万卡集群有互联、稳定性、散热和调度问题;数据有质量、版权、模态混合和训练配方问题;模型有推理、规划、工具使用和失败恢复问题。
因此大基建不是资本支出清单,而是一个耦合系统。只扩建数据中心而没有数据和训练效率,可能产生闲置资产;只追求模型能力而没有低成本推理,可能无法把价值交付给用户;只做产品而没有对底层能力的反馈,可能在下一轮模型升级时被替代。
芯片、能源、数据中心、网络和资本先提供可训练的物理边界。
Scaling、数据配方、架构和研究把资源变成模型能力,目标既包括更强模型,也包括更高能效。
模型通过多模态、工具、Coding、Agent 和搜索进入用户任务,能力不再停留在 benchmark。
真实使用暴露失败和长尾,数据回到模型与产品;机器人还需要物理交互和传感器数据。
订阅、云、API、广告、设备或产业服务把价值变成现金,再支付下一轮算力和研究。
任何环节效率过低,都会让下一环节无法扩张;最强的模型并不自动拥有最强的商业闭环。
这是本文的概念模型,不是可直接拟合的财务公式。它把广密分散在节目不同位置的判断放在一起:Scaling 负责提高能力,数据和反馈负责避免能力停在演示,硬件和能源负责扩大运行规模,产品和现金流负责让系统继续转下去。
| 内容 | 证据状态 | 处理方式 |
|---|---|---|
| GPT-3.5/GPT-4 的 H100 数量、训练天数和耗电量 | 嘉宾估算,部分单位和模型规格未公开 | 用于说明算力/能源数量级,不当作官方训练账单。 |
| H100 价格、万卡/十万卡集群造价、GPU 年出货量 | 节目时期市场估算 | 需区分租赁、购买、有效算力、设备和运营成本,不能直接相加。 |
| OpenAI、xAI、Mistral、Google、微软、阿里等梯队与结盟 | 广密的竞争判断 | 是 2024 年 Q1 的观察,不是稳定排名或对未来公司的承诺。 |
| Scaling Law 是否减速、AGI 3–5/5–10 年、GPU 产业规模 | 预测与研究假说 | 应看后续模型能力、有效算力、数据效率、产品和现金流是否兑现。 |
| 机器人数据量、Waymo 远程监控效率、Tesla 价值 | 节目口述/类比 | 用于说明系统瓶颈,不替代公司披露、运营数据和安全评测。 |
尤其要注意:训练计算的数量级可以帮助理解“为什么基础模型需要巨头资本”,但不能反推出某个模型的参数量、数据来源或能力上限。公开技术报告、硬件利用率、并行通信和数据清洗方式会显著改变结果。
在一定训练配方和模型族内,增加参数、数据和计算通常会带来可预测的损失下降或能力改善;它不是无限外推的保证。
让文本、图像、声音、视频或动作在同一系统中被理解或生成。难点是对齐、token 数量、实时性和能力保持。
广密用来指算力、能源、数据中心、网络、芯片和资本的长期建设,不是某个模型版本。
能够理解目标、调用工具、执行多步任务并处理反馈的系统;关键门槛是长期规划和可靠完成,而不是调用次数。
为特定计算任务设计的专用芯片。相对通用 GPU,它可能降低成本或提高效率,但开发周期和生态风险更高。
模型通过视觉、触觉等传感器进入真实环境,再用机械本体和执行器完成动作;它需要真实交互数据和成本下降。
从节目可以推出一个更可操作的判断:算力会逐渐从稀缺资源变成基础门槛,真正稀缺的是每单位芯片和能源带来的有效学习。同样数量的卡,可能因为数据质量、通信拓扑、利用率、模型配方、任务反馈和产品入口不同,产生完全不同的进展。于是头部公司的优势不只是买卡,而是把“训练—部署—使用—失败—再训练”的回路压短。
这也解释了模型与产品的南坡/北坡关系:模型提供通用能力,产品提供高价值任务和真实反馈;没有北坡,南坡容易陷入无尽研究;没有南坡,北坡容易被底层模型升级覆盖。能够跨越两坡的公司,未必是把所有应用都自己做完,而是拥有让研究能力持续获得高质量反馈的组织和入口。
未来真正值得检验的不是某家公司是否“宣布 AGI”,而是:有效算力是否持续提高、数据中心的单位能耗是否下降、复杂 Agent 任务是否稳定完成、模型价值是否转成现金流,以及机器人是否获得足够真实数据并降到可普及成本。
本页对开场自动转写异常做了边界处理:节目预告和正式片头均已纳入解释,异常重复文本没有被当作观点。所有 H100、训练时间、能耗、资本、市场规模、公司梯队和 AGI 时间表数字,除非另有公开一手出处,都属于节目时期估算、推测或预测。